La UOC desarrolla una guía para concienciar de los sesgos de género y diversidad de la IA en clase
La guía está enfocada al profesorado y alumnado de secundaria y proporciona recursos prácticos para trabajar en clase
Las herramientas de inteligencia artificial generativa están transformando la enseñanza y el aprendizaje. Ya es habitual que los estudiantes se apoyen en chatbots de IA como ChatGPT, Gemini o Claude para generar ideas, redactar textos o buscar información en el contexto de su aprendizaje. Según los expertos, esto plantea un reto, ya que limita la capacidad de desarrollar un pensamiento crítico y de reflexionar, además de que, en no pocas ocasiones, estas herramientas proporcionan información falsa y sesgada en cuanto a género y diversidad.
Aun así, la IA ofrece grandes oportunidades para la educación y la creación de entornos de aprendizaje personalizados, como reconocen instituciones internacionales, entre ellas la UNESCO. El proyecto EDUGENIA, desarrollado por la Universitat Oberta de Catalunya con el apoyo del Instituto de las Mujeres, ha publicado una guía con recursos para afrontar el desafío que representa la incursión de las herramientas de IA en el aula, con un enfoque especial en la perspectiva de género. "Se corre el riesgo de que caigamos en una excesiva dependencia de las herramientas de IA, y de que la gente tome decisiones únicamente a partir de las respuestas que proporcionan. El uso no controlado de la IA puede acarrear consecuencias nefastas. Por ello, es imprescindible que estudiantes y profesores tengan un conocimiento crítico e informado sobre el uso de dichas herramientas", explica Milagros Sáinz, investigadora de la UOC y responsable del proyecto junto a Marie-Monique Schaper. La guía EDUGENIA utiliza principios de la pedagogía feminista para corregir las discriminaciones que reproduce la IA, provenientes, en última instancia, de los sesgos culturales presentes en nuestra sociedad.
Para Schaper, "la llegada de la IA nos obliga a replantearnos qué significa enseñar tecnología. Tradicionalmente, la educación en informática se ha centrado en aprender herramientas y habilidades técnicas. Sin embargo, cada vez existe un mayor consenso en que también debe ayudar al alumnado a comprender el impacto social de estas tecnologías y a desarrollar una mirada crítica sobre ellas ".
La investigación se construyó a partir de tres ejes: una revisión narrativa de artículos científicos sobre IA, educación y género; un análisis de los marcos normativos europeo, español y catalán sobre IA e igualdad, y, finalmente, un estudio con la participación de 36 docentes de educación secundaria de Barcelona y Lleida, junto con diez jóvenes, para conocer las necesidades y experiencias de la enseñanza de la IA con perspectiva de género.
Entre las cuestiones que se trataron en estas sesiones prácticas están las implicaciones éticas del uso de influenciadores creados con IA que perpetúan estereotipos de género, promueven la cosificación y exaltan el lujo y el poder, además de la sobreexposición de la intimidad. También se trabajaron técnicas para la formulación de indicaciones (prompts), así como el manejo del riesgo de sesgos y alucinaciones. El proyecto Gender Shades, por ejemplo, concluyó que las herramientas de IA de grandes corporaciones como IBM, Microsoft y Face++ tienen mayor precisión al identificar rostros de hombres que de mujeres, y también identifican mejor a personas blancas que a personas negras. Son solo algunos ejemplos de las discriminaciones que puede conllevar un uso no crítico de la IA en la sociedad.
El conjunto de herramientas EDUGENIA incluye recomendaciones, buenas prácticas y recursos para controlar los sesgos de la IA, como los principios de aprendizaje automático consciente de la equidad, que permiten identificar discriminaciones en los chatbots de IA relacionadas con el género, la etnia o la situación socioeconómica. Además, introduce términos y nociones sobre inteligencia artificial, un resumen del marco normativo-legal sobre IA para entender cómo se puede usar esta tecnología de forma ética en el aula, y casos prácticos y orientaciones sobre la utilización de esta tecnología como herramienta educativa.
La guía propone actividades diversas para distintos niveles educativos. Por ejemplo, analizar en el aula varios oficios e investigar las desigualdades de género en diferentes profesiones utilizando un asistente de IA; debatir sobre cómo los algoritmos pueden promover sesgos de género en los procesos de selección de personal, etcétera. Otra actividad propone iniciar al alumnado en el uso de herramientas de IA relevantes para la educación, analizar datos desde una perspectiva de género y reflexionar sobre los aspectos éticos y pedagógicos de estas aplicaciones. En el ámbito de la filosofía, se anima al alumnado a utilizar ChatGPT para analizar textos filosóficos, a debatir problemas éticos de la IA y a analizar ejemplos de género y sociales en datos de entrenamiento de estas tecnologías, y cómo afectan a los resultados que proporcionan. A partir del próximo curso, está previsto que la guía se difunda ampliamente entre instituciones educativas y asociaciones de familias, además de otras entidades del mundo educativo.
