La oportunidad de repensar la tecnología
FemFrame, reprogramando la mirada tecnológica, es una iniciativa de la cooperativa El Garbell .
En El Garbell nos dedicamos a la formación y consultoría en Inteligencia Artificial. Nuestro propósito es poner la IA al servicio de las personas , haciéndola accesible y beneficiosa para todas. Promovemos la transformación digital de forma inclusiva y responsable.
En el ámbito de la Inteligencia Artificial Generativa, son especialmente relevantes los aspectos éticos de la tecnología. Además, nos encontramos con sistemas que no sólo reproducen nuestros sesgos sino que los amplifican. Esto nos invita a repensar cómo podemos reducirlos y generar herramientas más justas .
Debido a esta fuerza que ha cogido la IA Generativa y los nuevos retos que supone, en 2024 nos pidieron impartir dos formación en el programa Impactech . Una sobre violencias machistas y perspectiva de género y otra sobre retos éticos. La preparación de estas formaciones es la semilla del proyecto FemFrame.
La tecnología siempre parte de un contexto y una mirada concreta. Es el reflejo de quien la crea y de las necesidades que quiere atender . ¿Quién está detrás del desarrollo tecnológico? ¿En quién está pensando cuándo decide cuáles son las prioridades y cuáles son las necesidades a resolver? Y también, ¿de qué forma se dan estas necesidades por satisfechas?
Tecnologías defectuosas
Hay casos que nos ponen fácilmente sobre la pista de quien hay habitualmente detrás de la tecnología .
El primero es el de las gafas de realidad virtual , que inicialmente provocaban cibermareo en las mujeres. Era un producto desarrollado por un grupo de varones y probado sólo con varones. No se había tenido en cuenta la diversidad de cuerpos : la distancia interpupilar de las mujeres es, de forma general, menor que la de los hombres.
El segundo caso es el del sistema de cribado de currículums desarrollado por Amazon. Este sistema automatizado rechazó todas las solicitudes de trabajo en las que hubiera alguna referencia femenina . Las personas responsables del desarrollo no tuvieron en cuenta que estaban entrenando a una IA con datos sesgados , ya que la empresa Amazon estaba formada, en un porcentaje muy alto, por hombres.
El tercer caso tiene más que ver con añadir funcionalidades por el simple hecho de poder hacerlo , sin pensar en las consecuencias. Se trata del doble “check” azul de WhatsApp , que permite saber si el receptor del mensaje lo ha recibido y leído. Al lanzar esta opción, la empresa Meta no consideró qué podía suponer, sobre todo para colectivos vulnerables , pero también para el estrés de cualquier persona que deba utilizar este sistema en su trabajo.
Todos estos casos pueden parecer anecdóticos, pero no lo son: revelan una violencia estructural y cultural hacia las mujeres y todas las personas que no encajan en el modelo del “hombre de referencia” .
Metodología FemFrame
Los ejemplos nos muestran la importancia de incorporar la diversidad y la perspectiva de género en el diseño tecnológico para construir herramientas más equitativas y respetuosas con todos . Ésta es precisamente la propuesta de FemFrame .
Por un lado, podemos aprender a reconocer nuestros sesgos y entender cómo influyen en la forma en que creamos y utilizamos la tecnología. Hay que conocer cómo funciona nuestro cerebro , cómo actúa el pensamiento rápido y cómo activar el pensamiento lento . Por otra parte, existen ya muchas metodologías y recursos valiosos para incorporar la perspectiva de género a los proyectos, algunos de los cuales están dirigidos específicamente al ámbito digital. En FemFrame trabajamos para facilitar su acceso y promover su aplicación práctica .
En FemFrame proponemos tres itinerarios divulgativos y formativos .
El primero, dirigido a los equipos que desarrollan tecnología , en el que nos centramos en los bugs de inclusividad y en cómo tenerlos en cuenta desde las primeras fases del diseño.
El segundo, destinado al ámbito educativo , sensibiliza sobre cómo vivimos la tecnología y cómo podría ser.
El tercero, pensado para espacios no tecnológicos , principalmente feminizados , busca que la creación digital salga de su entorno habitual y que las personas que habitualmente no tienen acceso puedan disfrutar de ellos desde una mirada curiosa y reflexiva .
Además, en nuestra web ofrecemos una recopilación de recursos , como metodologías que ayudan a aplicar la perspectiva de género en tecnología o una IA Suite , un conjunto de asistentes creados para apoyar en estas tareas.
Por último, y para responder a la necesidad de una inclusión contextual , incorporamos a la web un ecosistema de colaboración , donde se pueden encontrar compañeras de viaje : entidades y personas que nos acompañan en este camino compartido.
Tecnología abierta
FemFrame impulsa una tecnología que cuida , que inspira y que genera oportunidades. Una tecnología pensada desde la diversidad, que da respuesta a necesidades reales y que pone a las personas en el centro. Creemos en un futuro digital compartido, en el que la innovación sea una herramienta para mejorar la vida colectiva.
FemFrame es una invitación a reprogramar la mirada, a imaginar, crear y vivir una tecnología más justa, más abierta y humana.
Contacta con nosotros en hola@elgarbell.coop