Eina per a l'ús responsable d'intel·ligència artificial a les administracions públiques

CTPDA: ANUNCIA UNA EINA PER A L'ÚS RESPONSABLE D'INTEL·LIGÈNCIA ARTIFICIAL A LES ADMINISTRACIONS PÚBLIQUES

Eina amb una metodologia per al desenvolupament responsable d'IA al sector públic andalús

El Consell de Transparència i Protecció de Dades d'Andalusia (CTPDA) ha desenvolupat una metodologia dissenyada específicament per ajudar les administracions públiques (AAPP) a implementar sistemes d'intel·ligència artificial (IA) de manera responsable i conforme a la normativa de protecció de dades.

Aquesta iniciativa respon a la necessitat creixent detectada durant les tasques de supervisió del CTPDA dels cada vegada més freqüents projectes que inclouen tecnologies d'IA que incorporen les AAPP per millorar els seus serveis, en els quals se solen trobar dificultats per aplicar el complex marc normatiu de protecció de dades i garantir els drets dels ciutadans, per això la importància de l'experiència del CTPDA en la supervisió d'aquests.

• La gestió de riscos
• La identificació de les bases de licitud del tractament
• La gestió de proveïdors tecnològics
• La participació del Delegat de Protecció de Dades en el desenvolupament dels mateixos

Aquesta metodologia estarà disponible per a totes les AAPP andaluses durant l'últim trimestre del 2025 a través d'una eina, que pretén convertir-se en l'estàndard de referència per al desenvolupament responsable d'IA en matèria de protecció de dades al sector públic andalús permetent que les AAPP puguin aprofitar tot el potencial de la IA mantenint les màximes garanties per als drets dels ciutadans.

Característiques de l'eina i metodologia

• L'objectiu principal és facilitar el compliment de la normativa.
  
• Promou un enfocament d'innovació responsable en exigir una reflexió sistemàtica sobre riscos i mesures de protecció, contribuint al desenvolupament de sistemes d'IA més robustos i fiables
• Funciona com una guia pas a pas que acompanya els responsables públics des de la concepció inicial del projecte fins a la posada en funcionament.
• S'adapta automàticament al tipus i complexitat de cada projecte:
  • Projectes de complexitat baixa: per exemple un ajuntament que implementi un chatbot per respondre consultes ciutadanes bàsiques podria completar el procés verificant un conjunt reduït de mesures de protecció específiques.
  • Projectes d'alta complexitat: ex. una AAPP que desenvolupi un sistema per avaluar automàticament sol·licituds d'ajuts socials (dades sensibles i decisions que afecten significativament els ciutadans) haurà de seguir un procés més exhaustiu que inclou avaluació de biaixos algorísmics, mecanismes de supervisió humana i procediments específics per a l'exercici de drets.
• El sistema comença amb unes preguntes clares sobre el tipus de projecte, les dades que tractarà i els col·lectius afectats. Amb aquestes respostes, configura automàticament quins passos seguir i quin nivell de verificació cal, variant els controls als riscos, des de:
  • 62 per a sistemes bàsics o essencials
    
  • 154 per a sistemes estàndard
  • 178 per a sistemes complexos o exhaustius
• S'aplicaran diferents nivells de supervisió, procedint en funció del risc real, és a dir, com més impacte potencial, més nivell de supervisió, i viceversa.
  
• Privadesa des del disseny, la protecció de dades no ha de ser una cosa que s'afegeixi al final del projecte, ha d'estar integrada des del primer moment, des de la redacció dels plecs del procés de licitació pública (disseny) fins a la recepció del sistema, l'eina ajudarà a:
  • Identificar quins requisits de protecció de dades incloure als plecs
    
  • Verificar durant l'avaluació d'ofertes si els proveïdors proposen mesures adequades
  • Supervisar durant el desenvolupament que s'implementen correctament les proteccions necessàries.
• Contempla tots els elements necessaris per generar EIPD, reduint la càrrega de redacció manual i assegurant la coherència de tota la documentació.

Més informació sobre l'eina i la seva metodologia en aquestes 12 diapositives accessibles des d'aquí.