EDPS: Lista de verificación sobre intervención humana en la toma de decisiones automatizada
El tractament de dades personals mitjançant sistemes que automatitzen la presa de decisions, amb escassa o nul·la intervenció humana, pot afectar significativament els drets i llibertats fonamentals de les persones, per això la supervisió humana, en aquests casos, és un control essencial.
Si hi ha intervenció humana no s'aplicaria l'art. 22 RGPD, sempre que aquesta intervenció sigui significativa.
El responsable no pot argumentar la no aplicació del dit article, simplement posant una persona a “visar” decisions; la persona ha de tenir l'autoritat i la competència per canviar la decisió i ha de revisar totes les dades pertinents. Si la intervenció humana és només un gest simbòlic sense influència real, la decisió se segueix considerant basada únicament en el tractament automatitzat.
És a dir, amb la supervisió humana ens estem referint a la participació activa de persones en la revisió efectiva del funcionament d'aquests sistemes de presa de decisions automatitzades, l'avaluació dels seus resultats i, quan sigui necessari intervenir-hi, ja sigui anul·lant-los, suspenent-los o ignorant-los, especialment en els casos en què el sistema produeixi un resultat erroni, segat.
La supervisió humana ha d'estar clarament definida, documentada, proporcionada al nivell de risc i recolzada per mesures de seguretat tant tècniques com organitzatives adequades.
Aquests sistemes automatitzats de presa de decisions estan afectant cada cop més els drets i les llibertats fonamentals de les persones, des de l'accés a serveis fins als resultats legals. Per tant, la supervisió humana, com venim indicant, sol proposar-se com la principal mesura de seguretat o control; per això, és important saber si és sempre tan eficaç com pensem.
Per poder valorar-ho, l'EDPS ha publicat una llista pràctica (en anglès) perquè les institucions de la UE autoavaluïn la maduresa de les seves mesures de supervisió humana.
Archivos adjuntos
checklist-on-human-intervention-of-adm_en.pdf