Margot Matesanz, enginyera i consultora en IA a El Garbell. Publicat amb motiu del 8M del 2026 a l'Enllaç.
Et consideres una persona optimista? L’optimisme és un tret de personalitat, una actitud envers la vida. Sense optimisme, seria difícil emprendre, investigar o imaginar avenços que encara no existeixen. L’optimisme també és un biaix cognitiu que ens porta a subestimar el risc. En projectes tecnològics, es manifesta amb terminis por realistes, pressupostos insuficients i una presa de decisions massa segura.
Analitzar cada decisió requereix energia, per la qual cosa classifiquem, simplifiquem i complementem la informació amb heurístiques. Una manera automàtica de pensar. Funciona bé, la majoria de les vegades: no hem de pensar constantment com anar de casa a la feina, no considerem profundament si volem una poma. Els problemes sorgeixen sota pressió, quan hi ha massa informació, quan la situació no està clara, quan ens basem en la memòria i no en les evidències. Aquestes dreceres mentals condueixen a errors i fan aflorar els biaixos.
Els biaixos són ben coneguts en els equips tecnològics. Moltes empreses implementen mètodes sistemàtics per mitigar-ne l’impacte. El biaix d’optimisme i el biaix endogrupal fan que els problemes es passin per alt en la fase de definició del projecte. Una tècnica per combatre-ho és el premortem. L’equip es reuneix i imagina que el projecte ja s’ha completat, s’ha llançat i ha fracassat. Des d’aquest futur fictici, escriu una carta explicant què ha anat malament. Així s’identifiquen riscos i decisions fràgils abans que es consolidin.
Hi ha molts altres biaixos que afecten el desenvolupament tecnològic: el biaix d’ancoratge, el de confirmació o la fal·làcia del cost enfonsat, també coneguda com a efecte Concorde. Per gestionar-ne la influència, s’han desenvolupat mètodes que parteixen d’una mateixa premissa: el biaix no es pot eliminar. No obstant, se’n pot reduir l’impacte en les decisions importants amb regles i procediments explícits.
Aleshores, quins mètodes s’utilitzen per combatre els biaixos que reforcen les desigualtats estructurals? El biaix d’afinitat afavoreix persones similars a un mateix. El d’autoritat dona més pes a certes veus, encara que el que diguin no sigui millor. El biaix endogrupal afavoreix qui pertany al grup dominant.
Aquestes dinàmiques contaminen les decisions que defineixen carreres professionals, afectant contractacions i ascensos. Marquen qui s’escolta a les reunions i qui s’interromp. Separen treball estratègic de treball invisible. Configuren qui es considera líder i qui ocupa rols de suport.
L’impacte també arriba als productes. Si qui dissenya comparteix perfils i experiències semblants, és més probable que certs cossos i realitats en quedin fora. Sistemes de reconeixement de veu que fallen amb veus femenines, algoritmes de selecció que penalitzen trajectòries no lineals, reconeixement facial menys precís amb pell fosca… Errors que cal detectar a l’inici, no un cop desplegats.
En aquests casos, es demana més ambició, més resiliència i més competències tècniques a qui queda fora del patró dominant. El relat presenta l’espai tecnològic com obert i meritocràtic. El problema es desplaça del sistema a la trajectòria individual, tot i saber que els biaixos són inevitables.
Els mètodes antibiaix van néixer sense perspectiva de gènere ni mirada interseccional. Cal adaptar-los. Canvia la pregunta i canvia el resultat. No és el mateix “què pot sortir malament?” que “per a qui pot sortir malament, en quins contextos, i a qui estem deixant fora?”. Quan no hi ha mètode, decideix la inèrcia. I la inèrcia manté l’ordre existent. Per això cal dissenyar processos que el posin a prova.
Què és el pitjor que podria passar, i per a qui?