El plan es que sea una comunidad transnacional en español que funcione como una red de redes, uniendo países o áreas geográficas para generar un universo nodular. Eva Navarro, ingeniera informática y doctora en automática, entró en el proyecto, cuando ya estaba en marcha, precisamente con la tarea de diseñar el modelo de inteligencia artificial que sustente esta red de redes. “Los sistemas complejos tienen muchos sistemas pequeñitos que se unen, como una parvada de pájaros o los bancos de peces en el mar. Responden a unas leyes muy simples, pero acaban generando comportamientos colectivos que no existían en los elementos individuales”, explica. “Yo veo LaNuestra como un cerebro colectivo, un sistema complejo del que va a emerger un comportamiento muy bonito, de optimismo hacia un futuro de cambio”.

Anonimizar los datos

Uno de los primeros pasos está siendo la eliminación de los datos personales de los testimonios reunidos hasta la fecha por #Cuéntalo. En la actualidad, ya han sido anonimizados cerca de 5.000 de los casi 3 millones de relatos recogidos. Es un proceso complejo, porque no basta con eliminar los datos básicos (nombre, apellidos, edad…), sino que hay que quitar cualquier referencia que identifique al agresor o a la víctima. Este primer archivo ‘limpio’, explica Eva Navarro, se ha cedido al Instituto de las Mujeres, pero todavía es necesario seguir limpiando la base completa. “Se tardaron cerca de dos años en anonimizar los primeros 5.000 testimonios, pero hay que agilizar el proceso, porque hay millones esperando. Lo que vamos a hacer es crear una caja [en blockchain, las cajas son los bloques virtuales que funcionan como contenedor seguro para almacenar datos] que permita anonimizar de manera automática, para lo que podemos utilizar técnicas de procesamiento de lenguaje natural”. Este proceso ha sido realizado por el equipo de Juliana Luis de Souza, científica social e investigadora de la Universitat Pompeu Fabra, que es quien ha generado el libro de códigos que permitirá categorizar los testimonios. “Ha hecho un trabajo muy riguroso y ha extraído 30 categorías de análisis y 124 códigos a partir de estos 5.000 testimonios: tipos de violencia, características de la víctima, tipos de consecuencias... Es lo que Cristina Fallarás llama ‘parámetros feministas’, y nos interesan mucho, porque son las consecuencias de las que no se habla y que perduran: sociales, económicas, de dolor…”

Después de ese trabajo de clasificación llegará la fase de análisis, para la que se utilizarán distintas herramientas (de ciencia de datos, de estadística, visualización…) y que, en palabras de Navarro, permitirá “crear un nuevo relato sobre la violencia de género”. Además, LaNuestra ofrecerá a las usuarias la posibilidad de relacionarse con otras personas de la comunidad para crear grupos de soporte. Funcionará una red compleja de nodos (cada mujer) que permitirá establecer relaciones entre ellas a partir de la información extraída (conectadas por edad, región, tipo de violencia, tipo de consecuencias...) siguiendo el concepto del match digital, similar al que existe en aplicaciones como Tinder.

LaNuestra será un espacio exclusivamente para mujeres y será necesario un login para entrar y formar parte de la comunidad. La seguridad está siendo una de las prioridades del equipo de desarrollo. “Tiene que ser un lugar extremadamente seguro, ya que estamos hablando de violencia. Esta comunidad no está pensada para la venganza, sino para sanar entre todas y romper el silencio”.

También podría ayudar a tener una visión más real sobre el problema de la violencia contra las mujeres. Las estadísticas que maneja el Gobierno recogen solo lo que reportan los sistemas judicial y policial, pero los expertos son conscientes de que la mayoría de las agresiones no se denuncian. En el caso de la violencia sexual, por ejemplo, las estimaciones consideran que se denuncian menos del 10% de los casos. Las cifras oficiales son, por tanto, solo la punta del iceberg. “Alguien podría pensar que los datos que recogemos a través de los testimonios pueden ser falsos, pero las mujeres no van a mentir sobre esto. Además, se comprueba que las personas que dejan su testimonio sean reales”, explica Eva Navarro.

Una academia sobre IA para mujeres

Más allá de ser un espacio seguro para las víctimas de la violencia, el proyecto tiene un segundo objetivo, y es romper con el sesgo masculino dominante en la industria tech. “Todo el negocio está manejado por Silicon Valley, cinco compañías lideradas por hombres heterosexuales, blancos y ricos, que son los que también dominan la academia, los departamentos de computación, de ingeniería…”

El plan de las responsables de LaNuestra es ofrecer a las mujeres herramientas de apoyo y orientación para acercarlas a este mundo. “No se trata solo de un cambio social y democrático, también es un cambio tecnológico, porque vamos a generar una inteligencia artificial propia y vamos a formar a esas mujeres para que esta tecnología no sea solo para privilegiados”, asegura Eva Navarro.

Desmontando la IAG

A pesar de ser una apasionada de la IA y de la historia del desarrollo de esta tecnología, desde Ada Lovelace hasta Alan Turing (trabajó con el último alumno de este), Navarro es muy crítica con el rumbo que ha acabado tomando una de sus vertientes, la inteligencia artificial generativa. En su opinión, empresas como OpenAI, Google, Amazon o Microsoft no han inventado nada nuevo, simplemente han aprovechado en beneficio propio los avances de las últimas décadas en big data, cloud computing, deep learning y procesamiento del lenguaje natural. “Lo único nuevo es el modelo de negocio, el marketing que vende la inteligencia artificial para todo. Los buenos algoritmos no necesitan esa cantidad ingente de datos, esos trillones de parámetros, porque eso no es reproducible. Herramientas como ChatGPT producen entre un 60% y 70% de error, pero parece que a nadie le importa”. Técnicamente, remata, “va en contra de cualquier diseño algorítmico porque no cumple una de las bases principales de la ciencia: que otra persona lo pueda reproducir. Un algoritmo tiene que tener robustez, es decir, que la respuesta que dé sea correcta, y, además, completitud, lo que garantiza que, si hay una solución correcta, el algoritmo la encuentre”.

Además, tiene muchas reservas desde el punto de vista ético-filosófico. “Si la IA fuese una silla, una pata son los datos, otra los algoritmos, la tercera es la infraestructura y la cuarta, las personas. Pues las cuatro están mal: los datos se toman sin permiso, sin crédito y sin compensación (parece que ya no nos preocupa la propiedad intelectual). Hay falta de diversidad, porque los algoritmos son creados en su mayoría por hombres blancos y privilegiados, lo que nos lleva a ausencia de neutralidad y abundancia de sesgos. Y luego está el tema de la infraestructura: se están construyendo centros de datos en medio de la nada, donde no hay agua, cuando necesitan grandes cantidades de energía. Es un impacto medioambiental enorme, sin olvidar la explotación de una nueva clase laboral, underclass, a través de subcontratas. Detrás de los chats no hay máquinas, hay personas, a las que pagan poquísimo, en India, África o América Latina”.

Con una larga y exitosa carrera como investigadora internacional, Eva Navarro es producto de algo que ahora está en entredicho: el ascensor social, ese mecanismo que permitió a varias generaciones de españoles mejorar sus condiciones socioeconómicas respecto a las de sus padres gracias, principalmente, a la educación pública. La obsesión de su madre por que su hija estudiase para no depender de ningún hombre (un pensamiento muy de la época) y su propia curiosidad la impulsaron a estudiar. Se diplomó de Sistemas Físicos de Informática (era la única mujer en muchas de las clases), tiene un doctorado en Dinámica Espacial y Mecánica Celeste y otro en Ingeniería de Control. Ha trabajado en España, México, Inglaterra y Estados Unidos.  La ola conservadurista que atraviesa este último país la empujó a volver a Manchester, donde en la actualidad tiene un puesto honorario de investigación en la universidad y trabaja como consultora sénior para el International Panel on the Information Environment, un grupo de expertos científicos que luchan contra de la desinformación y los sesgos de los algoritmos a escala mundial.

Y, en este punto de su carrera, ha aparecido LaNuestra. En este proyecto, Eva Navarro se ha sumado a un equipo en el que también están la periodista Cristina Fallarás; Almudena Rodríguez, encargada de impulsar alianzas estratégicas y movilizar recursos; Patricia Luján, que ha creado la imagen y el concepto de comunicación; Thais Ruiz de Alda, que trabaja en la producción tecnológica de la herramienta y en la coordinación de equipos; Judith Membrives, investigadora; Flora Barberá, diseñadora de interfaces; Juliana Luis de Souza, creadora del sistema de codificación de los testimonios y responsable de la creación de un libro de códigos único, y Andrea Aldana, que trabaja en la limpieza y edición de los testimonios recopilados y en el área de comunicación.

    View this post on Instagram           A post shared by Cristina Fallara´s Sánchez (@cfallaras)