Intel·ligència Artificial i privacitat
En ple debat públic de les virtuts i riscos d’eines com el famós ChatGPT, la Unió Europea ha debatut i aprovat la primera normativa sobre la intel·ligència artificial i la privacitat, amb l’objectiu de regular aquesta tecnologia disruptiva i el seu ús massiu.
Entre els riscos d’aquesta nova tecnologia es troben, com diem, tots aquells relacionats amb la privacitat de les persones, ja que la IA s’alimenta del processament de grans quantitats de dades (també personals) que són obtingudes de múltiples fons, com dades publicades a xarxes socials, posts o qualsevol altra que pot comportar tractaments de dades personals i que, a vegades, la persona afectada no sap ni que s’estan produint.
Els sistemes d’IA s’alimenten constantment de la informació que consumeixen i, per tant, la recopilació i ús d’aquesta informació és una part indestriable del mateix sistema.
Intel·ligència artificial i privacitat: Quins riscos hi ha?
En matèria de privacitat, els riscos que ara mateix es poden identificar es poden agrupar en tres:
- Riscos per la seguretat.
Efectivament, els sistemes d’AI s’alimenten de la recopilació constant i massiva de dades i informació (també personal). A més dades recopilades i analitzades, més risc hi ha que un potencial atac a un sistema d’IA pugui generar perjudicis més alts i incontrolables per les persones afectades.
- Riscos per la discriminació de les persones.
Indiscutiblement, si en els processos de recopilació de dades (per exemple en un procés de selecció de personal) el sistema pren decisions basades en l’anàlisi dels perfils socials, per exemple, dels candidats, es poden produir situacions discriminatòries, amb l’agreujat que els candidats poden, fins i tot, no ser conscients que aquest tractament de les seves dades s’està produint.
- Riscos associats a usos no autoritzats.
La millora de pràctiques com el deep fake, que en vàrem parlar aquí ja fa més de 3 anys, pot implicar que hi hagi persones que es vegin implicades en situacions no desitjades, com les fake news, que inclús poden tenir conseqüències molt importants en les seves vides. Òbviament, l’ús d’aquest tipus de tecnologies implica l’ús d’imatges de forma no autoritzada per part de qui les practiquen.
Fins aquí, en quatre línies (humanes) els riscos principals. Llegim, per això, què n’ha de dir la mateixa IA sobre els riscos per la privacitat:
No hi ha dubte que ens trobem, una vegada més, davant d’una tecnologia revolucionària i de previsible ús massiu, que genera nous riscos per la privacitat que, al final, no ho oblidem, consisteix en essència amb el control de qui fa ús de la nostra informació personal i amb quina finalitat.
Quines mesures preveu la nova normativa per minimitzar els riscos per la privacitat?
D’entrada, la normativa sobre IA de la Unió Europea preveu directament una sèrie de pràctiques prohibides i, el que és més rellevant, la seva aplicació es preveu tant per empreses desenvolupadores establertes a la UE com per empreses no europees si les seves pràctiques impacten a ciutadans europeus (una mica seguint el model de l’RGPD).
Entre les pràctiques prohibides trobem:
- Eines d’IA que despleguen tècniques subliminars més enllà de la consciència d’una persona per tal de distorsionar el seu comportament d’una manera que provoqui o li pugui causar danys físics o psicològics a aquesta o a una altra persona.
- Un sistema d’IA que exploti qualsevol de les vulnerabilitats d’un grup específic de persones a causa de la seva edat, discapacitat física o mental, per tal de distorsionar materialment el comportament d’una persona pertanyent a aquest grup, d’una manera que provoqui o pugui causar a aquesta persona (o a una altra) dany físic o psicològic.
- L’ús de sistemes d’IA per part de les autoritats públiques per a l’avaluació o classificació de la fiabilitat de les persones físiques durant un període de temps determinat en funció del seu comportament social o personal.
- L’ús de sistemes d’identificació biomètrica remota “en temps real” en espais d’accés públic per a l’aplicació de la llei, tret que no es compleixi alguna de les excepcions previstes.
La proposta, així mateix, està basada en el principi de gestió del risc, de manera que, en qualsevol projecte que impliqui l’ús d’IA, serà necessari que es valori amb caràcter previ l’impacte que pot tenir en relació amb el tractament de dades personals, el que implicarà, a més, l’aplicació de principis com la privacitat des del disseny o per defecte.
Les mesures previstes afecten tant a les empreses que desenvolupen productes d’IA com aquelles empreses que, sense desenvolupar-los, usen aquest tipus de productes, per exemple, en xats d’atenció al client o solucions similars que puguin implementar als seus negocis o empreses.
Ens trobem, en definitiva, davant d’un primer intent legislatiu seriós per regular l’ús de la IA. Caldrà restar atents tant a com es va implementant aquesta nova normativa com a l’impacte, ara mateix difícil de preveure, que la IA pot tenir per la privacitat i la protecció de dades personals.
Com sempre, si necessiteu més informació sobre aquest tema de la intel·ligència artificial i privacitat, no dubteu en contactar-nos!
Informació sobre protecció de dades
Denominació social
LEGAL IT GLOBAL 2017, SLP
Finalitat
Prestar el servei.
Enviament del Boletí informatiu.
Legitimització
Compliment de la prestació de servei.
Consentiment.
Destinataris
Les teves dades no seran compartides amb cap tercer, excepte aquells proveïdors de serveis amb els que disposem d’un contracte de serveis vigent.
Drets
Pots accedir, rectificar o suprimir les dades, així com exercir els drets que s’esmenten en la nostra Política de Privacitat.
Més informació
Consulta la Política de Privacitat.
