Guía para la evaluación de impacto sobre los derechos fundamentales en el uso de inteligencia artificial (EIDF)
Enlace a la noticia en la página de la APDCAT: https://apdcat.gencat.cat/es/documentacio/intelligencia_artificial/index.html
La inteligencia artificial (IA) cada vez más presente en nuestra sociedad, entendida en un sentido amplio, podemos verla como una herramienta de apoyo a la toma de decisiones en cualquier ámbito. Este apoyo en la toma de decisiones afecta, y de forma muy relevante, a las personas, ya que los datos y la tecnología dibujan perfiles y patrones que sirven para decidir e influir directamente en ellos.
En este sentido, la Autoridad Catalana de Protección de Datos (APDCAT) ha elaborado una Guía con un modelo (pionero en Europa) y casos de uso para la evaluación de impacto sobre los derechos fundamentales en el uso de inteligencia artificial (EIDF), en línea con lo que establece el Reglamento de Inteligencia Artificial (RIA). El documento se ha trabajado en el marco del grupo de trabajo de “DPD en red”, y nace con la voluntad de ser un referente para otras organizaciones que necesiten llevar a cabo una EIDF.
En la Guía la APDCAT aborda la interacción de las EIDF con el RGPD, propone un modelo de EIDF y cuatro casos de uso.
Interacción con el RGPD.
Si los responsables del despliegue de la IA no cumplen las obligaciones de la EIDF en virtud del RIA, o si las autoridades competentes no aplican adecuadamente estas obligaciones, en el futuro las autoridades de protección de datos pueden desempeñar un papel activo en la aplicación de la EIDF de los sistemas de IA a través de las disposiciones del art. 35 RGPD, en la medida en que el RGPD sea aplicable (este es el caso en muchas situaciones en las que la IA afecte a personas y grupos, dada la amplia definición de datos personales y tratamiento de datos en el RGPD y el papel de los datos en el desarrollo, la implementación y el uso de la IA).
Teniendo en cuenta todos estos diferentes aspectos de la interacción entre la EIDF en el RIA y el art.35 RGPD, y dada también la experiencia de las autoridades de protección de datos en el tratamiento de cuestiones de derechos fundamentales, es adecuado y necesario que éstas autoridades desempeñen un papel activo a la hora de proporcionar orientación sobre la EIDF en el contexto de los sistemas de IA basados en datos personales.
Modelo:
En la primera parte se aborda el papel de la EIDF en el Reglamento de Inteligencia Artificial (RIA) y las fases que conforman el modelo adoptado par la APDCAT:
El modelo utilizado en los casos de uso se basa estas tres fases y consta de varios elementos:
Casos de uso:
En la segunda parte se abordan los casos de uso, en este caso: