Asistentes y agentes de IA: decálogo de la AEPD para personas usuarias


aepd-privacy-driver

1. Introducción

La Agencia Española de Protección de Datos (AEPD) ha publicado el documento “Asistentes y agentes de IA: Decálogo para personas usuarias”, dirigido a quienes utilizan herramientas de IA que ya no se limitan a contestar preguntas, sino que actúan en su nombre, gestionan el correo o la agenda, completan compras y reservas, comparten archivos o aceptan condiciones. El lema del documento resume su enfoque: “que la IA actúe por ti, no sin ti”.

La premisa de la AEPD con el Decálogo es que cambia la naturaleza del riesgo, dejando de ser informativo y pasando a ser operativo. Cuando el asistente solo responde, un error es una respuesta equivocada; cuando actúa, ese error puede materializarse en un correo enviado, un archivo compartido, un pago realizado o un consentimiento prestado en nombre del usuario, que puede tener que responder de sus consecuencias.

Antes de conectar un asistente de IA a nuestras cuentas, la AEPD propone plantearse cinco cuestiones: qué puede ver, qué puede recordar, qué puede hacer en nuestro nombre, a dónde envía los datos y si afecta a otras personas.

2. Decálogo

1. Revisar a quién se entregan las llaves. Un asistente con acceso al correo, la agenda, los archivos o los medios de pago accede a buena parte de nuestra vida digital. Deben elegirse servicios de empresas identificadas, que permitan ejercer los derechos en la UE y expliquen a dónde van los datos, revisando las opciones de privacidad, memoria y uso para marketing o entrenamiento de modelos, y priorizando, cuando sea posible, el procesamiento en el propio dispositivo.

2. Conceder accesos, no cheques en blanco. Poder acceder no equivale a necesitar acceder, y leer no es lo mismo que enviar, modificar o borrar. Se recomienda otorgar el mínimo, solo lectura cuando sea posible, acceso limitado a lo necesario (una carpeta, un calendario) y revisión periódica de las conexiones, especialmente cuando se incorporan funciones nuevas.

3. Dar lo mínimo y proteger lo delicado. Cuanta más información maneja el asistente, mayor es el daño si se equivoca, es engañado o se compromete la cuenta. No deben introducirse contraseñas, códigos ni números de tarjeta en la conversación, y conviene eliminar de los documentos los datos innecesarios para la tarea.

4. Decidir qué puede recordar. La memoria va construyendo un perfil que, por acumulación de datos triviales, termina describiendo la vida del usuario. La AEPD advierte que borrar un chat no equivale a borrar la memoria, el historial o las aplicaciones conectadas, que deben gestionarse con los controles del servicio, y que el proveedor o sus subcontratistas pueden conservar datos derivados del uso.

5. Decir también lo que no debe hacer. Un agente que persigue objetivos y decide sus propios pasos necesita límites explícitos, a quién puede escribir, cuánto puede gastar, qué no debe tocar y cuándo debe detenerse y preguntar. Se recomienda empezar por tareas pequeñas y reversibles y recordar que las instrucciones orientan al agente, pero no sustituyen a los permisos.

6. Confirmar lo importante. Debe activarse la confirmación previa para enviar, publicar, pagar, borrar, contratar o aceptar condiciones, evitar los permisos del tipo “permitir siempre” y revisar lo que se aprueba (destinatario, importe, fecha, adjuntos). No se debe dejar que el agente decida sin revisión sobre asuntos legales, económicos o de salud, ni sobre cuestiones que afecten a terceros.

7. Desconfiar también de lo que lee. Webs, correos, PDF o invitaciones pueden contener instrucciones ocultas, incluso invisibles, diseñadas para desviar al agente. Como ninguna medida elimina este riesgo por completo, la estrategia es limitar lo que el agente puede hacer si es engañado y evitar combinar en una misma tarea contenido de terceros desconocidos, acceso a información privada y capacidad de actuar.

8. Proteger los datos de los demás. El correo, la agenda, los contactos o las fotos contienen información de familiares, compañeros, clientes o pacientes que no han decidido usar IA, y la autorización del usuario no le legitima para disponer de esos datos. No debe utilizarse el asistente para reunir o deducir información sensible de otras personas ni para adoptar decisiones que les afecten sin valorar si es apropiado y lícito.

9. Proteger la cuenta y el dispositivo. La cuenta del asistente es la llave de todo lo conectado, contraseña única y robusta, verificación en dos pasos o passkey, avisos de inicio de sesión y conectores o complementos de origen conocido. Si el agente controla un navegador, puede acceder a las sesiones abiertas, por lo que para tareas delicadas conviene usar un perfil separado.

10. Supervisar, saber detenerlo y retirar sus accesos. Delegar no es desentenderse. Hay que saber de antemano cómo detener el agente y revocar sus permisos, revisar el historial de actividad y las aplicaciones afectadas, y vigilar las tareas programadas. Si algo falla, detener el agente, desconectar aplicaciones, cambiar contraseñas, comprobar qué se envió y avisar a los afectados, incluida la propia organización cuando proceda.

3. Uso en el ámbito laboral

El decálogo incorpora un apartado específico para el entorno profesional, utilizar únicamente los asistentes autorizados por la organización y conectar solo las cuentas, aplicaciones y datos que esta permita; no instalar agentes por cuenta propia en equipos de trabajo ni vincular el correo o los documentos profesionales a una cuenta personal de IA. La AEPD recuerda que los datos de clientes, pacientes, alumnos o ciudadanos son responsabilidad de la organización, y el uso que se hace de ellos, de cada empleado. Ante la duda, debe consultarse al DPD.

4. Qué se espera de los proveedores

Aunque el documento se dirige a los usuarios, la AEPD señala los controles que deberían ofrecer quienes comercializan asistentes que actúan por cuenta de las personas, permisos comprensibles que distingan entre consultar y actuar, confirmación configurable para las acciones de mayor impacto, historial de lo realizado, un mecanismo de parada inmediata, gestión y borrado de la memoria, información clara sobre a quién se comunican los datos y si se usan para entrenar modelos, y una vía sencilla para ejercer los derechos. Si un servicio no los ofrece, la recomendación es tenerlo en cuenta antes de confiarle datos.

5. Conclusiones

El decálogo no cita expresamente el RGPD ni el Reglamento de Inteligencia Artificial (RIA), pero sus recomendaciones son una traslación práctica de obligaciones ya exigibles:

  • La minimización de datos (art. 5.1.c RGPD)
  • La protección de datos desde el diseño y por defecto (art. 25 RGPD), que es en esencia lo que la Agencia pide a los proveedores.
  • La seguridad del tratamiento (art. 32 RGPD).

El uso estrictamente personal de un asistente puede quedar amparado por la excepción doméstica del art. 2.2.c) RGPD, pero esa excepción no alcanza al proveedor que facilita los medios del tratamiento y se debilita en cuanto el agente actúa sobre datos de terceros o los comunica fuera del círculo personal, de ahí la insistencia del punto 8.

Para las organizaciones, el apartado laboral es el de mayor alcance práctico. Un agente conectado a sistemas corporativos implica un tratamiento del que la organización es responsable (art. 24 RGPD), lo que exige, como mínimo:

  • Un inventario de herramientas autorizadas y una política de uso que evite la “IA en la sombra”
  • El análisis de si el agente puede adoptar decisiones con efectos jurídicos o significativos sobre personas (art. 22 RGPD)
  • La revisión de los contratos de encargo (art. 28 RGPD)
  • La revisión de las posibles transferencias internacionales (Capítulo V)
  • La evaluación de impacto cuando el tratamiento lo requiera (art. 35 RGPD)
  • La formación del personal, que enlaza con la obligación de alfabetización en IA (art. 4 RIA).
  • Además, un agente manipulado mediante instrucciones ocultas que remite datos a terceros constituye un incidente que debe valorarse como posible brecha de seguridad (arts. 33 y 34 RGPD)

En definitiva, la autonomía del agente debe ser proporcional al control que se mantiene sobre él. Para las organizaciones, el mensaje es que la gobernanza de estas herramientas debe definirse antes de su despliegue, no después del primer incidente.

El decálogo completo está disponible en la web de la AEPD: https://www.aepd.es/guias/decalogo-usuarios-asistentes-agentes-ia.pdf

Archivos adjuntos
pdfdecalogo-usuarios-asistentes-agentes-ia (1).pdf