Supervisió humana experta a la IA: una garantia davant el biaix d'automatització

1. L'experiència, més que mai, un grau

Gairebé tots els marcs de governança de la IA repeteixen la mateixa fórmula aparentment tranquil·litzadora, "sempre hi ha una persona supervisant", sona bé, però és insuficient.

No es tracta “simplement” de tenir una persona en el procés de supervisió, l'essencial és que aquesta persona tingui els coneixements i el criteri necessaris per gestionar adequadament aquests sistemes amb IA i saber quan el sistema (la IA) s'equivoca. I aquí hi ha el problema, no totes les organitzacions tenen en compte que un supervisor sense coneixement en la matèria, en la majoria dels casos, no supervisa, només valida, i validar sense capacitat de corregir és, senzillament, donar per bo tot el que la IA ha generat, inclòs el que és erroni.

Per tant, tot i que es parla molt que la intel·ligència artificial (IA) ve a substituir la feina dels professionals, la realitat de les organitzacions està demostrant que la IA no està reemplaçant les persones amb més trajectòria i bagatge professional, sinó que, al contrari, per a la seva supervisió, s'ha tornat indispensable retenir aquelles que acumulen dècades d'experiència. Aquestes persones amb anys d'experiència són, de fet, les més capacitades per supervisar, validar i corregir les decisions d'aquesta tecnologia, són les que sabran discernir entre la realitat i el que la IA està generant.

2. El biaix d'automatització

A mesura que els models de IA es tornen més sofisticats, les seves respostes es presenten de forma cada vegada més summament convincents. Aquí rau el veritable risc per a qualsevol organització, com més convincent és una IA, més important és comptar amb persones capacitades per distingir una resposta correcta d'una altra que només és convincent però conté errors de fons, és a dir d'una altra “enganyosament correcta”.

Qualsevol usuari pot rebre una resposta de la IA i donar-la per bona. Per això, cal criteri, experiència i coneixement de la matèria (aquell que no es captura completament en els models de IA) per identificar biaixos, interpretar resultats ambigus i corregir sortides incorrectes.

La IA generativa no genera resultats òbviament erronis que saltin a la vista, genera respostes fluïdes i aparentment segures i versemblants, i aquest és exactament el tipus de sortida que desarma a qui no domina la matèria, com més polida sona, més fàcil és assumir que és correcta, a això se li diu biaix d'automatització, la possible tendència a confiar automàticament o en excés en els resultats de sortida generats per un sistema de IA, precisament quan hauríem de dubtar-ne.

Aquest biaix d'automatització, una persona experta en la matèria el neutralitzaria amb el seu bagatge professional i coneixements en la matèria; tanmateix, algú sense els coneixements suficients i sobretot sense l'experiència necessària en la matèria podria arribar, no només a no neutralitzar el biaix, sinó que al contrari podria arribar fins i tot a amplificar-lo.

3. El cost de la confiança cega, casos reals

Per entendre la gravetat d'aquest tipus de situacions i que no és un problema d'un sector determinat, sinó un desafiament transversal de la IA generativa, plantegem dos exemples de dos sectors totalment diferents.

En una explotació agrícola, en sol·licitar el responsable del sistema de reg a un sistema amb IA el càlcul de les necessitats de reg per a una parcel·la amb cítrics i oliveres, l'eina va suposar, erròniament, que l'olivera és un arbre de secà i va recomanar duplicar la seva necessitat d'aigua respecte als cítrics.

Si s'hagués procedit com indicava la IA, s'haurien perdut dues collites senceres, una per falta de reg i una altra per excés; així i tot, en aquest cas la persona responsable del sistema, amb molts anys d'experiència en el sector, va detectar l'error i el va corregir, procedint amb el reg necessari i adequat en cada cas.

En el cas d'un professional sense experiència, hi hauria la possibilitat que hagués seguit aquesta recomanació al peu de la lletra, perdent les dues collites senceres. Aquest és el valor real de l'experiència en un determinat sector o matèria: no confiar cegament en la IA i saber quan desconfiar d'una dada automatitzada.

En àmbits tècnics el risc és directe; en el nostre, sense anar més lluny (sistemes de compliment de la normativa de protecció de dades), segur que a més d'un i a més d'una, un sistema amb IA li ha generat una anàlisi formalment impecable, però amb referències normatives incorrectes, criteris atribuïts a les Autoritats de Control que mai van mantenir o resolucions inventades que no existeixen.

De fet, treballar amb IA pot, a vegades, esdevenir summament tediós quan et dones compte que gairebé tot conté matisos o detalls que estan malament o no quadren.

A vegades, res d'això ho detectarà qui no ha treballat la matèria durant anys; podem, per tant, concloure que l'experiència i el coneixement previs són els únics filtres reals.

4. El biaix d'automatització en el RIA

Tota aquesta reflexió no és una intuïció, és la mateixa normativa que regula la IA, el Reglament d'Intel·ligència Artificial (UE) 2024/1689 (RIA / AI ACT), la que en el seu article 14, exigeix, entre altres qüestions, que la persona que supervisi un sistema d'alt risc comprengui les seves capacitats i limitacions, sigui capaç de detectar anomalies i de decidir no usar el resultat si arriba el cas.

L'esmentat article esmenta de forma expressa el biaix d'automatització com a risc que la supervisió ha de contrarestar. La mateixa norma reconeix, en definitiva, que la supervisió sense la competència tècnica requerida no constitueix una veritable garantia, invalidant per tant la funció garantista de la supervisió humana i reduint-la a un formalisme buit, a un mer tràmit formal.

Quan avui dia, amb aquests sistemes, generar un esborrany triga segons, el coll d'ampolla es desplaça cap a allò que sempre va ser difícil i ara més que mai: el criteri per decidir si aquest esborrany és correcte, aplicable i defensable. El professional amb anys d'ofici no competeix amb la IA en velocitat, competeix (i guanya) en l'únic que la IA no té: criteri per saber quan s'ha equivocat.

5. ¿Per què les organitzacions han de valorar avui més que mai l'experiència?

La integració de la IA en els fluxos de treball ressalta tres pilars fonamentals que només els professionals sènior poden aportar:

1. Supervisió i correcció constant: la IA requereix regles, ajustos i validació humana. Els experts detecten d'immediat les sortides errònies i recondueixen els processos automàtics.
2. Responsabilitat i confiança: en decisions crítiques, les organitzacions necessiten persones amb un historial comprovat per assumir la responsabilitat i assegurar la qualitat dels projectes desenvolupats a través de sistemes amb IA.
3. Col·laboració persona-màquina: el model ideal no és l'automatització absoluta, sinó equips mixts on la IA aporta velocitat i escala, mentre que els experts aporten el criteri, context i ètica.

6. El camí a seguir

Perquè aquesta sinergia funcioni, tant professionals com organitzacions s'han d'adaptar:

• Els professionals s'han d'enfocar a comunicar i fer valer la seva experiència, desenvolupar habilitats específiques en la supervisió de sistemes de IA i aprendre a treballar integrats amb aquests models de treball.
• Les organitzacions han de prioritzar la retenció del seu talent sènior, crear processos clars de governança de IA i assignar rols precisos per a la revisió humana experta.

Que la IA és una eina d'escala increïble, crec que ningú ho posa en dubte, però sense una persona usuària experta que la copiloti amb experiència i coneixements tant del negoci com del context real en cada cas, el risc de cometre errors greus és summament alt.

El veritable avantatge competitiu no està en la tecnologia que s'utilitza, sinó en l'experiència de qui la utilitza i supervisa.