AEPD: Protecció de dades a la IA Agèntica

Orientacions sobre Intel·ligència Artificial Agèntica des de la perspectiva de protecció de dades

L'Agència Espanyola de Protecció de Dades (AEPD) ha publicat unes orientacions sobre Intel·ligència Artificial (IA) agèntica des de la perspectiva de protecció de dades. La IA Agèntica són sistemes d'IA capaços no només de respondre preguntes, sinó també d'interactuar de manera autònoma per aconseguir els objectius que es pretenen.

Aquestes orientacions suposen un marc detallat per integrar la IA Agèntica en els tractaments de dades personals, enfocant-se que el tractament de dades personals que suposi l'ús d'aquests sistemes autònoms compleixi el RGPD.

Els punts essencials que s'aborden pel que fa al compliment del RGPD són:

1. Definició i responsabilitats

• Definició: els agents d'IA no són un tractament de dades amb una finalitat determinada en ells mateixos, sinó mitjans per automatitzar tractaments.
• Responsabilitats: el Responsable del Tractament, per tant, manté l'obligació de garantir el compliment del RGPD, independentment de l'autonomia de l'agent.

És essencial identificar la relació amb els proveïdors dels agents. Si l'agent accedeix a serveis externs enviant dades personals, aquests proveïdors normalment tracten les dades seguint les instruccions de responsable i per tant com a encarregats del tractament, si bé si determinen els seus propis fins adquiririen la condició de responsables del tractament.

• Actualització del RAT: s'ha d'actualitzar el Registre d'Activitats de Tractament (RAT) per reflectir quan sigui el cas, els nous fins i les legitimacions, els nous intervinents, les noves categories de dades, si hi ha transferències internacionals, decisions automatitzades, terminis de conservació, etc.

2. Principis del RGPD

Les orientacions destaquen com la IA Agèntica desafia els principis relatius al tractament:

• Licitud, Lleialtat i Transparència (art. 5.1.a RGPD):
  • Si la implementació dels sistemes d'IA Agèntica no implica tractaments addicionals més enllà del tractament original, no cal buscar legitimacions per a la seva inclusió en el tractament.
  • Si hi ha decisions automatitzades amb efectes jurídics per a ells o transferències internacionals, cal informar els interessats.
• Limitació de la finalitat (art. 5.1.b RGPD): cal evitar que les dades recollides per a un tràmit s'utilitzin per a altres fins no legitimats, com ara el reentrenament de models de llenguatge de tercers.
• Minimització de dades (art. 5.1.c RGPD): els agents s'han de dissenyar per recollir només les dades estrictament necessàries. S'alerta sobre el risc que agents d'"investigació profunda" recopilin dades excessives d'internet o repositoris interns sense control.
• Exactitud (art. 5.1.d RGPD): la IA pot "al·lucinar" o utilitzar dades obsoletes de la seva memòria, cosa que incompliria el principi d'exactitud.
• Conservació (art. 5.1.e RGPD): la informació emmagatzemada ha de ser la mínima necessària per a l'operació de l'agent. No només es tracta de la informació amb relació a secrets comercials o propietat industrial, sinó en particular de la informació personal de la persona usuària, dels subjectes sotmesos a tractament o tercers, incloent-hi informació que pot inferir un perfil de qualsevol d'ells.
• Confidencialitat (art. 5.1.f RGPD): un agent podria utilitzar dades d'un usuari A per inferir respostes a l'usuari B i provocar bretxes de confidencialitat.

S'adverteix sobre atacs com la “injecció de prompts” (manipular l'agent perquè ignori les instruccions de seguretat) que poden derivar en fuites de dades. Com a mesura de seguretat, es proposa el “Sandboxing” (aïllar l'execució de l'agent) perquè un error no comprometi tota l'organització.

3. Exercici de Drets

L'ús d'agents no pot minvar els drets dels interessats, de manera que el sistema ha d'estar dissenyat tècnicament per permetre l'exercici del dret de:

• Accés: saber què hi ha a la memòria de l'agent sobre una persona.
  
• Rectificació: si l'agent ha "après" alguna cosa incorrecta sobre una persona (ex. una adreça antiga o un estat civil erroni) i ho té a la memòria, ha d'existir un mecanisme tècnic per corregir aquesta dada en el context de l'agent. Si no es corregeix, l'agent continuarà prenent decisions errònies basades en dades obsoletes (al·lucinacions o inferències falses).
• Supressió: poder esborrar dades específiques de la memòria a llarg termini de l'agent (o “higienitzar” la memòria) sense haver de destruir tot el model.
• Limitació: quan es donin alguna de les circumstàncies contemplades a l'art. 18.1 RGPD
• Portabilitat: en els casos de tractaments basats en consentiment o relació contractual.
• Oposició: l'usuari ha de poder oposar-se que l'agent tracti les dades per a certs fins o limitar el tractament.
• No ser objecte de decisions automatitzades: si l'agent pren decisions basades únicament en tractaments automatitzats que afecten jurídicament o significativament la persona (ex. denegar un crèdit, filtrar un CV), donant-se alguna de les legitimacions necessàries per a això, l'interessat, llevat que el tractament estigui autoritzat per una llei, tindrà dret a demanar intervenció humana ia impugnar la decisió.

4. Protecció de Dades des del Disseny i per Defecte (Privacy by Design by Default)

El responsable ha de configurar l'agent abans de fer-lo servir, no n'hi ha prou amb la configuració per defecte. Les mesures recomanades inclouen:

• Governança: integrar la IA Agèntica a les polítiques de l'organització i involucrar el Delegat de Protecció de Dades (DPO).
  
• Llistes blanques i Control d'Eines: limitar a quins serveis externs (APIs, webs) hi pot accedir l'agent. No donar accés a "tot internet" si no cal.
• Traçabilitat: mantenir registres (logs) de quines dades va processar l'agent i quina "cadena de raonament" va seguir per arribar a una conclusió, permetent auditories posteriors.
• Gestió d'Identitat: aplicar el principi de mínim privilegi. L'agent no ha de tenir credencials d'administrador ni accés a tots els fitxers de l'organització, sinó només als necessaris per a la vostra tasca.

5. Riscos Específics

Les orientacions identifiquen dos elements nuclears que generen riscos d'incompliment nous:

• Memòria: a diferència d'un xat simple, els agents recorden contextos passats.
  • Risc: un agent podria utilitzar dades d'un usuari A per inferir respostes a l'usuari B i provocar bretxes de confidencialitat.
    
  • Mesura: és obligatòria la compartimentació de la memòria entre diferents tractaments i usuaris.
• Autonomia (Decisions Automatitzades): els agents poden actuar sense intervenció humana constant.
  • Risc: si l'agent pren decisions que afecten jurídicament o significativament la persona (ex. denegar un servei), cal aplicar garanties reforçades, com la intervenció humana i el dret a impugnació.
    
  • Mesura: s'exigeix ??definir nivells d'autonomia, per a accions d'alt impacte o irreversibles (com esborrar dades o fer pagaments), la intervenció humana ha de ser obligatòria (Human-in-the-loop).