AEPD: Exactitud, idoneïtat i qualitat de dades en tractaments de dades personals amb IA
1. Introducció
L'Agència Espanyola de Protecció de Dades (AEPD) ha publicat en una nota tècnica una anàlisi sobre com es projecten els principis d'exactitud i minimització del RGPD en tractaments de dades amb sistemes d'intel·ligència artificial (IA).
La publicació d'aquesta nota tècnica representa una de les primeres anàlisis integrals al món sobre la qualitat de dades i l'aplicació del principi d'exactitud del RGPD en contextos d'IA.
Aquest document proporciona un marc interpretatiu que permet aplicar els principis del RGPD en entorns d'IA, garantint la protecció de les persones mentre s'eviten interpretacions excessivament restrictives que podrien dificultar el desenvolupament d'aquests sistemes.
La iniciativa està dirigida a responsables del tractament, encarregats del tractament i delegats de protecció de dades que necessiten criteris pràctics per prendre decisions en un àmbit especialment complex des de perspectives jurídica i tecnològica.
2. Qualitat de les dades vs. Principi d'exactitud-RGPD
Un error comú a la indústria és confondre o assimilar la qualitat de les dades amb el principi d'exactitud de l'art. 5.1.d) RGPD. El document aclara que són conceptes estretament relacionats, però no equivalents:
La qualitat de les dades (criteri tècnic) es defineix sota estàndards de la indústria (com ara UNE 0079, ISO 25012, ISO 5259 o ISO 8000) com el grau en què les característiques de la dada satisfan necessitats específiques en un context determinat. Aquests marcs analitzen propietats com ara completitud, consistència, credibilitat, actualitat, precisió o traçabilitat.
El RGPD no recull de forma explícita el terme "qualitat de les dades" (tret de l'art. 47.2.d referit a les normes corporatives vinculants). En el seu lloc, l'article 5.1.c estableix els principis complementaris de minimització (dades adequades, pertinents i limitades al que sigui necessari) i exactitud (dades exactes i actualitzades respecte a les finalitats).
L'exactitud-RGPD no exigeix una veracitat absoluta o una actualització en temps real de cada registre de forma abstracta, sinó que està estretament vinculada a la finalitat del tractament. Una dada tècnicament desactualitzada o fictícia pot ser perfectament exacta sota el RGPD si compleix de forma idònia i segura amb la finalitat per a la qual es tracta.
La nota tècnica adverteix del perill d'aplicar una "qualitat de checkbox", que consisteix a avaluar les característiques de qualitat en abstracte sense analitzar de forma empírica el context i la finalitat del tractament. No totes les propietats dels estàndards ISO tenen la mateixa rellevància en cada projecte, ni la llista dels estàndards és exhaustiva; per exemple, l'absència de biaixos o el poder predictiu de les variables són factors clau en IA que van més enllà de l'estàndard tradicional.
3. Qualitat de la dada individual enfront de la qualitat del conjunt de dades (Dataset)
En els tractaments basats en aprenentatge automàtic, l'èxit i la idoneïtat no depenen del registre aïllat d'un usuari, sinó de les propietats matemàtiques del conjunt de dades de forma agregada (dataset).
El principi d'exactitud-RGPD obliga el responsable a avaluar biaixos grupals, propietats estadístiques, representativitat de l'entorn geogràfic o conductual, i el poder predictiu del conjunt.
Mètodes com la imputació de valors buits (afegir mitjanes estadístiques per solucionar la manca de completitud), el filtratge de biaixos, la generació de dades sintètiques o tècniques de privadesa diferencial introdueixen valors que tècnicament no reflecteixen la realitat exacta d'un individu concret. Això no obstant, si el conjunt resultant és idoni per entrenar el model de forma eficaç, es compleix perfectament el principi d'exactitud-RGPD.
L'exigència de veracitat i actualitat absoluta es torna crítica en la fase d'explotació quan les sortides del sistema generin efectes o decisions significatives sobre persones concretes.
4. El desenvolupament d'IA com un tractament diferenciat
La guia subratlla que el desenvolupament, prova, validació i evolució d'un sistema o model d'IA (seguint cicles de vida com l'estàndard ISO 5338) constitueix un tractament de dades personals totalment independent del tractament posterior d'explotació.
Si un conjunt de dades en origen no reuneix la qualitat o representativitat mínima necessària per a l'entrenament del model, no pot considerar-se "necessari" per al tractament sota el principi de minimització. La seva recollida massiva no estaria legitimada, i l'accés es limitaria únicament a la fase prèvia d'avaluació de la seva aptitud.
Definir requisits de qualitat excessivament baixos compromet el rendiment de la IA. Tanmateix, fixar requisits innecessàriament alts o perfectes contradiu la minimització de dades, encareix dràsticament la governança de la dada i pot provocar la cancel·lació injustificada de projectes viables d'investigació sota el supòsit erroni que no hi ha dades "suficientment perfectes".
5. La idoneïtat del tractament: "El sistema perfecte és una il·lusió"
L'AEPD insisteix que cap sistema d'IA és perfecte, i el compliment del RGPD no depèn de posseir un programari infal·lible, sinó de garantir la idoneïtat del tractament en el seu conjunt mitjançant el desplegament de salvagàrdies i operacions de control:
- Salvagàrdies d'entrada: filtres d'informació personal, preprocessament i control de bucles de retroalimentació en dades dinàmiques.
- Salvagàrdies de sortida i supervisió: mètriques meves/objectives per avaluar els resultats de la IA, supervisió humana qualificada, filtratge de sortides (especialment en IA generativa), gestió de queixes i incidències, i control del rendiment agregat enfront d'errors individuals.
Si el tractament barreja dades personals amb no personals (com ara estadístiques, barems o sensors), aquestes últimes han de complir requisits de qualitat estrictes si la seva manca de precisió pot induir a un resultat inexacte que afecti els drets de les persones.
5. Governança multidisciplinària
El disseny, l'adquisició i l'evolució dels sistemes d'IA al llarg de tot el cicle de vida de les dades exigeixen estructurar processos de governança sòlids. Per definir requisits de qualitat objectius basats en evidències verificables, és obligatori comptar amb la participació coordinada d'especialistes en ciència de dades (tècnics) i especialistes en protecció de dades (DPD).
6. Annex històric: L'evolució de l'"Exactitud" a Espanya
La nota tècnica inclou una anàlisi històrica que explica per què existeix tanta confusió amb la interpretació de l'exactitud:
- La Directiva Europea 95/46/CE vinculava l'exactitud a la finalitat del tractament.
- Això no obstant, l'antiga LOPD espanyola (Llei Orgànica 15/1999) va transposar aquest principi de forma absoluta, definint en el seu article 4.3 que les dades havien de ser exactes de manera que "responguin amb veracitat a la situació actual de l'afectat", desvinculant-ho de les finalitats. Això va provocar la interpretació errònia que tota dada havia de ser sempre 100% verídica i actual.
- El RGPD i l'actual LOPDGDD han corregit aquesta desviació, alineant novament l'exactitud amb la finalitat i la minimització. Exigir veracitat absoluta fora del que sigui necessari per a la finalitat pot, de fet, vulnerar els drets dels interessats en forçar un tractament excessiu de dades personals.
Archivos adjuntos
AEPD_calidad-datos-inteligencia-artificial.pdf