El biaix de gènere de la IA no és artificial
La intel·ligència artificial (IA) té biaixos? Sí, són els biaixos de la intel·ligència humana. La IA es basa en les dades que hem generat i generem els humans i, per tant, són coneguts els biaixos de gènere, edat o etnicitat.
La IA generativa pot perpetuar els biaixos? Sí, i s’ha demostrat. Com a apunt, un article científic va avaluar els biaixos de gènere en l’atenció sanitària experimentant amb el Chat GPT-4. L'estudi va posar de manifest la tendència del GPT-4 a reproduir estereotips ètnics i de gènere en les recomanacions generades un cop li introduïen preguntes amb casos clínics estandarditzats. En l’estudi es mostra, per exemple, com la IA prioritza el trastorn de pànic per a les dones en el diagnòstic diferencial d’un cas de dificultat respiratòria per embòlia pulmonar.
La IA pot superar aquests biaixos? Sí, si s’entrenen els models adequadament i de manera col·laborativa i diversa. Cal experimentar per detectar-los i cal transparència per conèixer quines dades –i d’on provenen– s’han utilitzat per entrenar cada model d’IA. Ajudaria que hi hagués més dades disponibles obertes i de qualitat.
Quin potencial té la IA per detectar biaixos de gènere en salut? Per una banda, s’ha demostrat científicament que hi ha diferències de gènere en l’atenció a la salut en casos, per exemple, de malaltia cardiovascular. Per l’altra, la IA té la capacitat d'estructurar grans quantitats de dades no estructurades i d'analitzar una gran quantitat de dades estructurades (imatge, vídeo, text o veu) per calcular prediccions o classificacions. Per tant, la IA es pot aplicar per analitzar grans quantitats de dades sanitàries i descobrir si hi ha diferències d’atenció sanitària per raó de gènere, com es manifesten i quines en són les conseqüències.
De quina altra manera la IA pot mitigar el biaix de gènere en salut? Posant-la al servei de la recerca científica, com ara per a l’endometriosi, un trastorn que afecta moltes dones i que produeix un dolor força insuportable (des de fa massa temps) que encara no té tractament eficaç, entre altres raons perquè se’n desconeix la causa. Com que s’han estudiat molts gens, més de 15.000, que podrien explicar-ne l’origen, un estudi va utilitzar algoritmes d’IA per classificar-los. Els gens més ben classificats podrien servir com a biomarcadors prometedors per al diagnòstic i ser possibles dianes terapèutiques per a l'endometriosi.
Què es pot fer per evitar que la IA perpetuï el biaix de gènere? Donar per descomptat que existeix i exigir una avaluació específica del biaix de gènere abans que s’implementi una eina amb IA, així com exigir portar a terme estratègies de mitigació d’aquest biaix que considerin la transparència en la font de dades, l’entrenament amb dades que siguin diverses i contextualitzades, a més d’altres mesures. La col·laboració entre científics de dades, desenvolupadors i experts en anàlisi de gènere és crucial. Fem que sigui la mateixa IA, amb perspectiva de sexe i gènere, que treballi per l’equitat humana.
