Margot Matesanz, ingeniera y consultora en IA en El Garbell. Publicado con motivo del 8M de 2026 en el Enlace.
¿Te consideras una persona optimista? El optimismo es un rasgo de personalidad y una actitud ante la vida. Sin optimismo, sería difícil emprender, investigar o imaginar avances que todavía no existen. El optimismo es también un sesgo cognitivo que nos lleva a subestimar el riesgo. En proyectos tecnológicos, se manifiesta con plazos poco realistas, presupuestos insuficientes y un exceso de seguridad en las decisiones.
Analizar cada decisión requiere energía, por lo que clasificamos, simplificamos y complementamos la información con heurísticas. Una forma automática de pensar. Funciona bien, la mayoría de las veces: no debemos pensar constantemente cómo ir de casa al trabajo, no consideramos profundamente si queremos una manzana. Los problemas surgen bajo presión, cuando existe demasiada información, cuando la situación no está clara, cuando nos basamos en la memoria y no en las evidencias. Estos atajos mentales conducen a errores y hacen aflorar los sesgos.
Los sesgos son bien conocidos en los equipos tecnológicos. Muchas empresas implementan métodos sistemáticos para mitigar su impacto. El sesgo de optimismo y el sesgo endogrupal hacen que los problemas se pasen por alto en la fase de definición del proyecto. Una técnica para combatirlo es lo premortem. El equipo se reúne e imagina que el proyecto ya se ha completado, se ha lanzado y fracasado. Desde ese futuro ficticio, escribe una carta explicando qué ha ido mal. Así se identifican riesgos y decisiones frágiles antes de que se consoliden.
Hay muchos otros sesgos que afectan al desarrollo tecnológico: el sesgo de anclaje, el de confirmación o la falacia del coste hundido, también conocida como efecto Concorde. Para gestionar su influencia, se han desarrollado métodos que parten de una misma premisa: el sesgo no se puede eliminar. Sin embargo, se puede reducir su impacto en las decisiones importantes con reglas y procedimientos explícitos.
Entonces, ¿qué métodos se utilizan para combatir los sesgos que refuerzan las desigualdades estructurales? El sesgo de afinidad favorece a personas similares a uno mismo. El de autoridad da más peso a ciertas voces, aunque lo que digan no sea mejor. El sesgo endogrupal favorece a quien pertenece al grupo dominante.
Estas dinámicas contaminan las decisiones que definen carreras profesionales, afectando a contrataciones y ascensos. Marcan quien se escucha en las reuniones y quien se interrumpe. Separan trabajo estratégico de trabajo invisible. Configuran quien se considera líder y quien desempeña roles de apoyo.
El impacto también llega a los productos. Si quien diseña comparte perfiles y experiencias similares, es más probable que ciertos cuerpos y realidades queden fuera. Sistemas de reconocimiento de voz que fallan con voces femeninas, algoritmos de selección que penalizan trayectorias no lineales, reconocimiento facial menos preciso con piel oscura… Errores que se deberían detectar al inicio , no una vez hecho el despliegue.
En estos casos, se pide más ambición, más resiliencia y más competencias técnicas a las personas que quedan fuera del patrón dominante. El relato presenta el espacio tecnológico como abierto y meritocrático. El problema se desplaza del sistema a la trayectoria individual, aun sabiendo que los sesgos son inevitables.
Los métodos antisesgo nacieron sin perspectiva de género ni mirada interseccional. Es necesario adaptarlos. Cambia la pregunta y cambia el resultado. No es lo mismo " ¿qué puede salir mal?" que “¿para quién puede salir mal, en qué contextos, y a quién estamos dejando fuera?”. Cuando no existe método, decide la inercia. Y la inercia mantiene el orden existente. Por eso es necesario diseñar procesos que lo pongan a prueba.
¿Qué es lo peor que podría ocurrir, y para quién?