La IA estereotipa por razón de género más que los humanos
Para la IA, la ciencia o la construcción son cosa de hombres, mientras que la educación o la enfermería siempre tienen rostro de mujer
Lamentablemente, las ideas preconcebidas sobre el género y las profesiones están todavía muy extendidas en la sociedad, y parece que la IA no solo replica este estereotipado, sino que lo refuerza y lo incrementa. Así al menos lo indica un indica un análisis realizado por la Universidad Europea y la de Valladolid a partir de una muestra de 666 imágenes creadas a través de DALL-E2, la aplicación desarrollada por OpenAI (creadores también de ChatGPT), que toma como referencia 37 profesiones en inglés. “De las 37 búsquedas de profesiones evaluadas en el estudio, se observó que en 22 de ellas el resultado mostraba siempre el mismo género, lo que demuestra una tendencia a la representación estereotipada de género en las imágenes generadas”, explica Francisco José García Ull, profesor de la Facultad de Ciencias Sociales de la Universidad Europea de Valencia y uno de los autores de este estudio.
Los estereotipos masculinos son especialmente evidentes en profesiones técnicas, científicas, vinculadas a la construcción y a la conducción. Por otro lado, profesiones como empleadas del hogar, modistas y aquellas donde la apariencia suele tener un peso fundamental, como la actuación o en la música, muestran imágenes exclusivamente de mujeres. Los autores del estudio subrayan, además, la alta presencia de mujeres en el sector de la educación y en medicina, especialmente, en enfermería.
“Si las profesiones ya están fuertemente estereotipadas en la sociedad, las representaciones generadas por la IA pueden reforzar aún más estos estereotipos, creando un ciclo de retroalimentación. Sin embargo, existen profesiones fuertemente estereotipadas por la IA que no lo están por los humanos”, indican los autores del estudio. En el caso masculino destacan ejemplos como banquero, informático o político. Por su parte, profesores, sastres, directores de hotel o asistentes son siempre mujeres en las imágenes generadas por inteligencia artificial. Otras investigaciones sobre sesgo de género llevadas a cabo en humanos demuestran un fuerte estereotipado en el 35% de los casos. En el caso de la IA este porcentaje aumenta hasta el 59,4%.
El aspecto dominante entre ellas es el de una mujer joven, rubia y occidental. Además, las imágenes generadas con DALL-E 2 presentan a hombres de edad media o avanzada cuando se trata de profesiones vinculadas a una mayor responsabilidad o estatus, como en el ámbito de la política, economía y religión.
Datos para los modelos
La falta de diversidad en los datos utilizados para entrenar los modelos es una de las causas de los sesgos de género en IA: si los datos no reflejan adecuadamente la diversidad, el modelo aprende y reproduce los estereotipos. En el caso de DALL-E 2, los datos utilizados provienen principalmente de la web, lo que significa que el modelo se nutre de las ideas dominantes en la cultura online.
Como indica el profesor García Ull, “la inteligencia artificial no es más que un reflejo de nuestra sociedad con todas sus virtudes y defectos. Para avanzar hacia tecnologías de IA verdaderamente inclusivas y justas es esencial reflexionar sobre nuestros propios prejuicios y trabajar no solo para reflejar el pasado, sino para aprender críticamente de él”. Los autores del estudio subrayan también “la necesidad de una comunidad de desarrollo de IA diversa e inclusiva que establezca las bases hacia una IA más justa e imparcial”.
