EDPS: Lista de verificación sobre intervención humana en la toma de decisiones automatizada
El tratamiento de datos personales mediante sistemas que automatizan la toma de decisiones, con escasa o nula intervención humana, puede afectar significativamente los derechos y libertades fundamentales de las personas, de ahí que la supervisión humana, en estos casos, sea un control esencial.
Si existe intervención humana no se aplicaría el art. 22 RGPD, siempre que dicha intervención sea significativa.
El responsable no puede argumentar la no aplicación de dicho artículo, simplemente poniendo a una persona a “visar” decisiones; la persona debe tener la autoridad y competencia para cambiar la decisión y debe revisar todos los datos pertinentes. Si la intervención humana es solo un gesto simbólico sin influencia real, la decisión se sigue considerando basada únicamente en el tratamiento automatizado.
Es decir, con la supervisión humana nos estamos refiriendo a la participación activa de personas en la revisión efectiva del funcionamiento de estos sistemas de toma de decisiones automatizadas, la evaluación de sus resultados y, cuando sea necesario intervenir en los mismos, ya sea anulándolos, suspendiéndolos o ignorándolos, especialmente en los casos en que el sistema produzca un resultado erróneo, sesgado o inapropiado.
La supervisión humana debe estar claramente definida, documentada, proporcionada al nivel de riesgo y respaldada por medidas de seguridad tanto técnicas como organizativas adecuadas.
Estos sistemas automatizados de toma de decisiones están afectando cada vez más a los derechos y libertades fundamentales de las personas, desde el acceso a servicios hasta los resultados legales. Por tanto, la supervisión humana, como venimos indicando suele proponerse como la principal medida de seguridad o control; por ello, es importante saber si es siempre tan eficaz como pensamos.
Para poder valorarlo el EDPS ha publicado una lista práctica (en inglés) para que las instituciones de la UE autoevalúen la madurez de sus medidas de supervisión humana.
Archivos adjuntos
checklist-on-human-intervention-of-adm_en.pdf