Assistents i agents de la IA: decàleg de l'AEPD per a persones usuàries


aepd-privacy-driver

L'AEPD PUBLICA UN DECÀLEG PER DELEGAR TASQUES EN ASSISTENTS I AGENTS D'IA

1. Introducció

L'Agència Espanyola de Protecció de Dades (AEPD) ha publicat el document “Assistents i agents d'IA: Decàleg per a persones usuàries”, adreçat a qui utilitza eines d'IA que ja no es limiten a respondre preguntes, sinó que actuen en nom seu, gestionen el correu o l'agenda, completen compres i reserves, comparteixen fitxers o accepten condicions. El lema del document resumeix el seu enfocament: “que la IA actuï per tu, no sense tu”.

La premissa de l'AEPD amb el Decàleg és que canvia la naturalesa del risc, deixant de ser informatiu i passant a ser operatiu. Quan l'assistent només respon, un error és una resposta equivocada; quan actua, aquest error pot materialitzar-se en un correu enviat, un fitxer compartit, un pagament realitzat o un consentiment atorgat en nom de l'usuari, que pot haver de respondre de les seves conseqüències.

Abans de connectar un assistent d'IA als nostres comptes, l'AEPD proposa plantejar-se cinc qüestions: què pot veure, què pot recordar, què pot fer en nom nostre, cap a on envia les dades i si afecta altres persones.

2. Decàleg

1. Revisar a qui s'entreguen les claus. Un assistent amb accés al correu, l'agenda, els fitxers o els mitjans de pagament accedeix a una bona part de la nostra vida digital. Cal triar serveis d'empreses identificades, que permetin exercir els drets a la UE i expliquin cap a on van les dades, revisant les opcions de privadesa, memòria i ús per a màrqueting o entrenament de models, i prioritzant, quan sigui possible, el processament en el mateix dispositiu.

2. Concedir accessos, no xecs en blanc. Poder accedir no equival a necessitar accedir, i llegir no és el mateix que enviar, modificar o esborrar. Es recomana atorgar el mínim, només lectura quan sigui possible, accés limitat al que sigui necessari (una carpeta, un calendari) i revisió periòdica de les connexions, especialment quan s'incorporen funcions noves.

3. Donar el mínim i protegir allò delicat. Com més informació gestiona l'assistent, més gran és el dany si s'equivoca, és enganyat o es compromet el compte. No s'han d'introduir contrasenyes, codis ni números de targeta en la conversa, i convé eliminar dels documents les dades innecessàries per a la tasca.

4. Decidir què pot recordar. La memòria va construint un perfil que, per acumulació de dades trivials, acaba descrivint la vida de l'usuari. L'AEPD adverteix que esborrar un xat no equival a esborrar la memòria, l'historial o les aplicacions connectades, que s'han de gestionar amb els controls del servei, i que el proveïdor o els seus subcontractistes poden conservar dades derivades de l'ús.

5. Dir també el que no ha de fer. Un agent que persegueix objectius i decideix els seus propis passos necessita límits explícits, a qui pot escriure, quant pot gastar, què no ha de tocar i quan s'ha d'aturar i preguntar. Es recomana començar per tasques petites i reversibles i recordar que les instruccions orienten l'agent, però no substitueixen els permisos.

6. Confirmar allò important. S'ha d'activar la confirmació prèvia per enviar, publicar, pagar, esborrar, contractar o acceptar condicions, evitar els permisos del tipus “permetre sempre” i revisar el que s'aprova (destinatari, import, data, adjunts). No s'ha de deixar que l'agent decideixi sense revisió sobre assumptes legals, econòmics o de salut, ni sobre qüestions que afectin tercers.

7. Desconfiar també del que llegeix. Webs, correus, PDF o invitacions poden contenir instruccions ocultes, fins i tot invisibles, dissenyades per desviar l'agent. Com que cap mesura elimina aquest risc per complet, l'estratègia és limitar el que l'agent pot fer si és enganyat i evitar combinar en una mateixa tasca contingut de tercers desconeguts, accés a informació privada i capacitat d'actuar.

8. Protegir les dades dels altres. El correu, l'agenda, els contactes o les fotos contenen informació de familiars, companys, clients o pacients que no han decidit utilitzar IA, i l'autorització de l'usuari no el legitima per disposar d'aquestes dades. No s'ha d'utilitzar l'assistent per reunir o deduir informació sensible d'altres persones ni per adoptar decisions que les afectin sense valorar si és apropiat i lícit.

9. Protegir el compte i el dispositiu. El compte de l'assistent és la clau de tot allò connectat, contrasenya única i robusta, verificació en dos passos o passkey, avisos d'inici de sessió i connectors o complements d'origen conegut. Si l'agent controla un navegador, pot accedir a les sessions obertes, per la qual cosa per a tasques delicades convé utilitzar un perfil separat.

10. Supervisar, saber aturar-lo i retirar-ne els accessos. Delegar no és desentendre's. Cal saber per endavant com aturar l'agent i revocar-ne els permisos, revisar l'historial d'activitat i les aplicacions afectades, i vigilar les tasques programades. Si alguna cosa falla, aturar l'agent, desconnectar aplicacions, canviar contrasenyes, comprovar què es va enviar i avisar els afectats, inclosa la mateixa organització quan sigui procedent.

3. Ús en l'àmbit laboral

El decàleg incorpora un apartat específic per a l'entorn professional, utilitzar únicament els assistents autoritzats per l'organització i connectar només els comptes, aplicacions i dades que aquesta permeti; no instal·lar agents pel seu compte en equips de treball ni vincular el correu o els documents professionals a un compte personal d'IA. L'AEPD recorda que les dades de clients, pacients, alumnes o ciutadans són responsabilitat de l'organització, i l'ús que se'n fa, de cada empleat. En cas de dubte, s'ha de consultar el DPD.

4. Què s'espera dels proveïdors

Encara que el document s'adreça als usuaris, l'AEPD assenyala els controls que haurien d'oferir els qui comercialitzen assistents que actuen per compte de les persones, permisos comprensibles que distingeixin entre consultar i actuar, confirmació configurable per a les accions de més impacte, historial del que s'ha realitzat, un mecanisme d'aturada immediata, gestió i esborrament de la memòria, informació clara sobre a qui es comuniquen les dades i si s'utilitzen per entrenar models, i una via senzilla per exercir els drets. Si un servei no els ofereix, la recomanació és tenir-ho en compte abans de confiar-li dades.

5. Conclusions

El decàleg no cita expressament el RGPD ni el Reglament d'Intel·ligència Artificial (RIA), però les seves recomanacions són una translació pràctica d'obligacions ja exigibles:

  • La minimització de dades (art. 5.1.c RGPD)

  • La protecció de dades des del disseny i per defecte (art. 25 RGPD), que és en essència el que l'Agència demana als proveïdors.

  • La seguretat del tractament (art. 32 RGPD).

L'ús estrictament personal d'un assistent pot quedar emparat per l'excepció domèstica de l'art. 2.2.c) RGPD, però aquesta excepció no arriba al proveïdor que facilita els mitjans del tractament i es debilita així que l'agent actua sobre dades de tercers o les comunica fora del cercle personal, d'aquí la insistència del punt 8.

Per a les organitzacions, l'apartat laboral és el de més abast pràctic. Un agent connectat a sistemes corporatius implica un tractament del qual l'organització és responsable (art. 24 RGPD), la qual cosa exigeix, com a mínim:

  • Un inventari d'eines autoritzades i una política d'ús que eviti la “IA a l'ombra”

  • L'anàlisi de si l'agent pot adoptar decisions amb efectes jurídics o significatius sobre persones (art. 22 RGPD)

  • La revisió dels contractes d'encàrrec (art. 28 RGPD)

  • La revisió de les possibles transferències internacionals (Capítol V)

  • L'avaluació d'impacte quan el tractament ho requereixi (art. 35 RGPD)

  • La formació del personal, que enllaça amb l'obligació d'alfabetització en IA (art. 4 RIA).

  • A més, un agent manipulat mitjançant instruccions ocultes que remet dades a tercers constitueix un incident que s'ha de valorar com a possible escletxa de seguretat (arts. 33 i 34 RGPD)

En definitiva, l'autonomia de l'agent ha de ser proporcional al control que es manté sobre ell. Per a les organitzacions, el missatge és que la governança d'aquestes eines s'ha de definir abans del seu desplegament, no després del primer incident.

El decàleg complet està disponible al web de l'AEPD: https://www.aepd.es/guias/decalogo-usuarios-asistentes-agentes-ia.pdf

Arxius adjunts
pdfdecalogo-usuarios-asistentes-agentes-ia (1).pdf