Es ampliamente reconocido que en la IA existe:

1. Una falta de diversidad como disciplina, con una inmensa mayoría de hombres en la creación, el diseño, la implementación y el despliegue de los sistemas de IA. En lugar de aumentar, el número de mujeres en este campo ha ido disminuyendo en las últimas cuatro décadas.

2. Una falta de  diversidad  en  los propios  datos  y  algoritmos  que proporcionan recomendaciones sobre noticias/películas/vídeos/etcétera, y que se utilizan como apoyo en la toma de decisiones sobre líneas de crédito/fianzas/ofertas de trabajo/asignaciones gubernamentales/tratamientos médicos/etcétera, lo que pone en duda su credibilidad. Esta falta de diversidad da lugar tanto a las llamadas ‘cámaras de resonancia’, que refuerzan nuestros gustos y convicciones evitando exponernos a contenidos diversos, como también a resultados discriminatorios que replican e incluso magnifican los patrones de discriminación existentes en la sociedad. 

3. Una falta de  diversidad  en el tipo de  organizaciones  que hoy en día crean los sistemas de IA de vanguardia: la producción científica de la IA está liderada por un puñado de empresas estadounidenses o chinas, no por universidades, centros de investigación, organizaciones sin ánimo de lucro u organizaciones civiles.

Todo esto se suma al hecho de que los roles de género que tan lentamente están desapareciendo del mundo físico están siendo programados, con viejas concepciones estereotipadas sobre género, raza y clase, en los nuevos modelos de IA y de toma de decisiones automatizadas.

Según el Foro Económico Mundial, solo alrededor del 22% de todos los desarrolladores de IA son mujeres; y la mayoría de ellos viven en alguno de los 10 países más ricos. (Estas cifras no tienen en cuenta a las invisibles, ignoradas y mal pagadas limpiadoras y etiquetadoras de datos, moderadoras de contenido y trabajadoras de la llamada ‘gig economy’ de los países del sur global). Todas ellas luchan por llegar a (y convertirse en) los decisores y los inversores. Es igualmente preocupante e incluso más inaceptable la falta de estándares para acelerar la igualdad en los propios algoritmos y de una política para eliminar los futuros desiguales que acechan en los viejos datos y modelos que, de no ser desmantelados, acabarán reforzándose y evolucionando hacia un más eficaz y escalable Patriarcado 2.0.

En los próximos meses, los líderes del mundo adoptarán medidas importantes para hacer frente a las crisis convergentes: desde la asignación de miles de millones en fondos de ayuda económica (como los fondos de reconstrucción europeos) a la inversión en nuevos sistemas sanitarios. Regiones enteras ya han emprendido el camino de  la transición verde. Muchas de las inversiones e infraestructuras del futuro estarán basadas en soluciones tecnológicas, por lo que es imperativo incorporar acciones afirmativas en todas las etapas del proceso de desarrollo (diseño, implementación y despliegue) de dichas tecnologías.

Desde   < A+ > Alianza para Algoritmos Inclusivos  proponemos un enfoque holístico para resolver el problema de la exclusión tecnológica desde sus raíces:

Pedimos que se adopten medidas para incluir a una variedad interseccional y a un número igual de mujeres y niñas que de hombres y niños en la creación, diseño y programación de la tecnología que queremos. Más allá de que se fomenten la inversión y unas mejores estrategias para que las mujeres y las niñas adquieran habilidades digitales, queremos que haya una diversidad de mujeres participando proactivamente en todos los procesos del ciclo de vida de los sistemas de IA, dando forma y fondo a una tecnología que afecta a prácticamente todos los ámbitos de nuestras vidas. Proponemos la participación activa de las mujeres y las niñas, desde los pequeños asentamientos a las grandes ciudades, desde los entornos rurales a las escuelas de primaria y secundaria o las grandes universidades, para tener una mejor información sobre las decisiones de diseño, implementación y uso de la tecnología por parte de funcionarios, de empresas gubernamentales, de ingenieros y de equipos que están muy lejos de las sociedades a las que tratan de servir y de los problemas que intentan abordar. En  < A+ > Alianza para Algoritmos Inclusivos   creemos que no solo hay espacio, sino también una necesidad urgente de incluir la experiencia de expertas de primera línea que aporten, participen y co-creen en todas y cada una de las etapas del desarrollo y despliegue de la IA.

Pedimos el desarrollo de una Acción Afirmativa para los Algoritmos que corrija los sesgos desde el momento de su concepción. Y que los algoritmos resuelvan los problemas reales, para lo que es necesario que la definición de esos problemas y el diseño de sus soluciones se haga desde la primera línea, desde el terreno y el contexto en el que van a ser aplicadas. Abogamos por la adopción de directrices que establezcan y garanticen la equidad, la rendición de cuentas y la transparencia en la toma de decisiones algorítmicas tanto en el sector público como en el privado, destapando y eliminando las ‘cajas negras’.

No es necesario tener un título en matemáticas, estadística o informática para haber experimentado y entendido que estos cambios sistémicos son necesarios para que las sociedades sean más inclusivas y sirvan mejor a sus ciudadanos. Combinando el conocimiento sobre el terreno que tiene la primera línea del feminismo con la formación de equipos más diversos e inclusivos compuestos por científic@s, informátic@s, expert@s en aprendizaje automático, científic@s de datos y matemátic@s, así como por expert@s en las áreas específicas de aplicación de los algoritmos, se puede crear una alianza que aborde y corrija las desigualdades sistémicas de género y raza. Esta es, en nuestra opinión, una mejor vía que adoptar los antiguos sistemas y viejas suposiciones, optimizarlos para que sean más eficientes y digitalizarlos conservando sus antiguos sesgos; y solo una vez que el daño haya sido hecho –y solo quizá- corregir los sesgos.

Dada la velocidad a la que la IA y otros sistemas automatizados para la toma de decisiones se están implementando, necesitamos empezar a sembrar el futuro que queremos con inclusión, multidisciplinariedad y diversidad de género, raza y clase. Estamos dispuest@s a pilotar ese futuro, aprovechando el muy urgente trabajo de respuesta al COVID-19 en un contexto de necesidad igualmente urgente de crear sistemas nuevos y más democráticos para que todos, y todas, podamos prosperar.

Nuestra propuesta es razonable y factible: abran las salas de reuniones y sienten a las mujeres y a las niñas en las mesas COVID-19 donde se están decidiendo las próximas intervenciones tecnológicas, incluidas las intervenciones de IA, para resolver las actuales crisis. Prueben un modelo participativo. Vean la diferencia de sus resultados para contribuir al futuro colectivo que merecemos. Vean y aprovechen el potencial de las mujeres y las niñas. Repitan el proceso una y otra vez. Una vez se haya abierto un espacio para el pensamiento innovador, el mundo verá surgir un millón de Adas. Pero solo si ahora creamos el ecosistema necesario para que sus ideas florezcan.

****

Este artículo está firmado por Renata Avila, Caitlin Kraft-Buchman, Nuria Oliver, Elisa Celis y Nanjira Sambuli, miembros del consejo asesor de < A+ > Alliance. Ha sido traducido y adaptado al castellano por Nuria Oliver a partir de su publicación original en OpenDemocracy. Oliver es una de las   ganadoras de la séptima edición de los Premios Mujeres a Seguir.

*< A+ >  es una coalición multidisciplinar, diversa, global y feminista de profesionales expertos, académicos y activistas que trabajan para crear y aplicar Algoritmos de Acción Afirmativa (< A+ >) que no solo detecten, sino que también corrijan los sesgos de género en Inteligencia Artificial y Toma de Decisiones Automatizadas. Lanzada formalmente en el Foro de Gobernanza de Internet 2019, < A+ > fue elegida en junio por Fast Company una de las ideas mundiales que están cambiando la IA y los datos, y forma parte de la Women Generation Equality Action Coalition for Technology and Innovation de Naciones Unidas.