||

Publicaciones >

Menstruación, salud y sexualidad: representaciones desde las inteligencias artificiales

Comenzamos marzo reflexionando sobre los impactos y las consecuencias de la IA desde Dinamarca. Luciana Benotti, parte del equipo de ética en IA, viajó y participó de los encuentros de la Sociedad Filosófica Danesa, donde se puso en discusión ponderar cuidadosamente las implicancias antes de embarcarse en innovaciones rápidas sin medir las consecuencias.

EDIA

¿Puede la inteligencia artificial tener sesgos y estereotipos?

Sí. Por eso creamos E.D.I.A., una herramienta para que puedas descubrir estos sesgos sin conocimientos técnicos.

La menstruación tiene carácter de tabú. Históricamente se evitó nombrarla y se han usado distintos eufemismos para citarla. “Andrés, el que viene una vez por mes” se ha escuchado en los pasillos del colegio o en el baño de un bar. Negarla, ocultarla y avergonzarse fueron prácticas comunes de muchas generaciones de cuerpos menstruantes. Las publicidades incentivaron a que “nadie se de cuenta”(1) de que estabas menstruando. ¡Me indispuse!. Me vino la regla. Estoy en mi período. O me bajó la luna. Formas que fuimos adaptando para evitar decir: estoy menstruando.

¿Qué tiene que ver la menstruación con una Fundación que busca hablar de derechos digitales? Este tema se puso en discusión en un ejercicio(2) con chicas TIC que llevó adelante el equipo de Ética en IA de Vía Libre en Uruguay, donde un grupo de estudiantes de secundario propusieron trabajar con la palabra menstruación para auditar las representaciones resultantes de los aprendizajes automatizados de las IAs.

Se puso a disposición del grupo la herramienta E.D.I.A y se preguntaron: ¿La IA asocia menstruar a una enfermedad? ¿Y qué pasa con la eyaculación? Este fue el resultado.


La imagen refleja cómo el aprendizaje automatizado de las IA tiende a asociar a una enfermedad con más fuerza a la palabra <menstruación> que a la palabra <eyaculación>. Lo que se observa en la herramienta se basa en preferencias de una red neuronal artificial, son números, matemática muy fina. Las muchas variables de una red neuronal pueden traer múltiples respuestas, según distintas métricas. Pero la tendencia que observamos mediante EDIA se refleja también en una interacción con chat GPT o en una búsqueda en Google, que utiliza este tipo de aprendizajes automáticos para autocompletar e interactuar con su usuario. Efectivamente, el comportamiento del buscador de google responde a estas asociaciones, como podemos ver en la siguiente captura de pantalla:.

La menstruación es un castigo de dios. O sangre podrida, sucia o mala. Contagiosa, una enfermedad. Además pueden salir virtudes como “genial”, pero no predominan. Escalofriantes, de mínimo, las respuestas que sugirió el buscador. Su vínculo arraigado con lo religioso (“un castigo de dios”, “mala”) o de mínima de carácter negativo en su descripción.

En cambio, al buscar “la eyaculación es…”, Google nos sugirió cosas de un tenor bastante distinto.


Con la eyaculación las respuestas son distintas. Se la vincula con la “próstata” o “espermatozoides”. No hay asociación tal con “vulva” o “gametos”. La sexualidad masculina frente a una femenina invisibilizada. Simon de Beauvoir escribió, allá por el año 1949, que “Al igual que el pene extrae del contexto social su valor privilegiado, del mismo modo es el contexto social el que hace de la menstruación una maldición. El uno simboliza la virilidad, la otra la feminidad, y porque la feminidad significa alteridad e inferioridad, su revelación es acogida con escándalo.”

Hay estereotipos anclados en las sugerencias automatizadas del motor de búsqueda. Absurdo ignorarlos. Distintos profesionales de la ONU, en Ginebra, en el 2019, realizaron una declaración de sus consecuencias.“El estigma y la vergüenza generados por los estereotipos en torno a la menstruación tienen graves impactos en todos los aspectos de los derechos humanos de las mujeres y las niñas; incluidos sus derechos humanos a la igualdad, la salud, la vivienda, el agua, el saneamiento, la educación, el trabajo, la libertad de religión o de creencias, condiciones de trabajo saludables, y de participar en la vida cultural y pública sin discriminación”.

Podemos llamarla por su nombre sin pasar vergüenza. Podemos hablar más de ella en las aulas, gracias a políticas públicas como la ESI. Podemos discutir si hay que quitar el IVA y posibilitar una gestión menstrual saludable y accesible para todos los cuerpos menstruantes. Pero si no prestamos atención a lo que sucede con las nuevas tecnologías, si ignoramos que las nuevas generaciones absorben cada vez más información a través de sus celulares, si ignoramos de dónde sale esa información y no disputamos esa fuente de conocimiento,si no evaluamos, enjuiciamos y ponemos freno a los sesgos, entonces Cathy O’Neil tenía razón y “la cuestión que debemos considerar es si hemos eliminado el sesgo humano o si simplemente lo hemos camuflado con tecnología”. (Cathy O’Neil, 2016).

Si te interesa profundizar sobre Ciencia de Datos en salud y menstruación, te recomendamos que escuches a Jocelyn Dunstan en su podcast, específicamente el episodio “Bonus – Ciclo Menstrual”. Link: https://spotify.link/YK2Vde2a5Db

Para conocer E.D.I.A, y más al respecto: https://www.vialibre.org.ar/edia-sesgos-de-genero/

(1)  Ejemplo publicidad que dice utiliza aquella expresión: https://www.youtube.com/watch?v=59eNhqYrbEQ&t=39s
(2) Actividad desarrollada en el marco de https://khipu.ai/

E.D.I.A

¿Puede la inteligencia artificial tener sesgos y estereotipos?

Creemos que sí. Para eso creamos una herramienta para que puedas sin conocimientos técnicos auditarla.

Scroll al inicio