L'oportunitat de repensar la tecnologia
FemFrame, reprogramant la mirada tecnològica, és una iniciativa de la cooperativa El Garbell.
A El Garbell ens dediquem a la formació i consultoria en Intel·ligència Artificial. El nostre propòsit és posar la IA al servei de les persones, fent-la accessible i beneficiosa per a totes. Promovem la transformació digital de manera inclusiva i responsable.
En l’àmbit de la Intel·ligència Artificial Generativa són especialment rellevants els aspectes ètics de la tecnologia. A més a més, ens trobem amb sistemes que no només reprodueixen els nostres biaixos sinò que els amplifiquen. Això ens convida a repensar com podem reduir-los i generar eines més justes.
Degut a aquesta força que ha agafat la IA Generativa i els nous reptes que suposa, l’any 2024 ens van demanar impartir dues formacións al programa Impactech. Una sobre violències masclistes i perspectiva de gènere i una altre sobre reptes ètics. La preparació d’aquestes formacions és la llavor del projecte FemFrame.
La tecnologia sempre parteix d’un context i d’una mirada concreta. És el reflex de qui la crea i de les necessitats que vol atendre. Qui hi ha al darrera del desenvolupament tecnològic? En qui està pensant quan decideix quines són les prioritats i quines són les necessitats a resoldre? I també, de quina manera es donen aquestes necessitats per satisfetes?
Tecnologies defectuoses
Hi ha casos que ens posen fàcilment sobre la pista de qui hi ha habitualment darrere de la tecnologia.
El primer és el de les ulleres de realitat virtual, que inicialment provocaven cibermareig en les dones. Era un producte desenvolupat per un grup d’homes i provat només amb homes. No s’havia tingut en compte la diversitat de cossos: la distància interpupilar de les dones és, de manera general, més petita que la dels homes.
El segon cas és el del sistema de cribratge de currículums desenvolupat per Amazon. Aquest sistema automatitzat va rebutjar totes les sol·licituds de feina en què hi hagués alguna referència femenina. Les persones responsables del desenvolupament no van tenir en compte que estaven entrenant una IA amb dades biaixades, ja que l’empresa Amazon estava formada, en un percentatge molt alt, per homes.
El tercer cas té més a veure amb afegir funcionalitats pel simple fet de poder fer-ho, sense pensar en les conseqüències. Es tracta del doble “check” blau de WhatsApp, que permet saber si el receptor del missatge l’ha rebut i l’ha llegit. En llançar aquesta opció, l’empresa Meta no va considerar què podia suposar, sobretot per a col·lectius vulnerables, però també per a l’estrès de qualsevol persona que hagi de fer servir aquest sistema en la seva feina.
Tots aquests casos poden semblar anecdòtics, però no ho són: revelen una violència estructural i cultural envers les dones i totes les persones que no encaixen en el model de “l’home de referència”.
Metodologia FemFrame
Els exemples ens mostren la importància d’incorporar la diversitat i la perspectiva de gènere en el disseny tecnològic per construir eines més equitatives i respectuoses amb tothom. Aquesta és precisament la proposta de FemFrame.
D’una banda, podem aprendre a reconèixer els nostres biaixos i entendre com influeixen en la manera com creem i utilitzem la tecnologia. Cal conèixer com funciona el nostre cervell, com actua el pensament ràpid i com activar el pensament lent. D’altra banda, ja existeixen moltes metodologies i recursos valuosos per incorporar la perspectiva de gènere als projectes, alguns dels quals estan dirigits específicament a l’àmbit digital. A FemFrame treballem per facilitar-ne l’accés i promoure’n l’aplicació pràctica.
A FemFrame proposem tres itineraris divulgatius i formatius.
El primer, adreçat als equips que desenvolupen tecnologia, en el qual ens centrem en els bugs d’inclusivitat i en com tenir-los en compte des de les primeres fases del disseny.
El segon, destinat a l’àmbit educatiu, sensibilitza sobre com vivim la tecnologia i com podria ser.
El tercer, pensat per a espais no tecnològics, principalment feminitzats, busca que la creació digital surti del seu entorn habitual i que les persones que habitualment no hi tenen accés puguin gaudir-ne des d’una mirada curiosa i reflexiva.
A més, a la nostra web oferim un recull de recursos, com ara metodologies que ajuden a aplicar la perspectiva de gènere en tecnologia o una IA Suite, un conjunt d’assistents creats per donar suport en aquestes tasques.
Finalment, i per respondre a la necessitat d’una inclusió contextual, incorporem a la web un ecosistema de col·laboració, on es poden trobar companyes de viatge: entitats i persones que ens acompanyen en aquest camí compartit.
Tecnologia oberta
FemFrame impulsa una tecnologia que cuida, que inspira i que genera oportunitats. Una tecnologia pensada des de la diversitat, que dona resposta a necessitats reals i que posa les persones al centre. Creiem en un futur digital compartit, on la innovació sigui una eina per millorar la vida col·lectiva.
FemFrame és una invitació a reprogramar la mirada, a imaginar, crear i viure una tecnologia més justa, més oberta i més humana.
Contacta amb nosaltres en hola@elgarbell.coop