||

Publicaciones >

Inteligencia Artificial, desafíos y oportunidades para su legislación

EDIA

¿Puede la inteligencia artificial tener sesgos y estereotipos?

Sí. Por eso creamos E.D.I.A., una herramienta para que puedas descubrir estos sesgos sin conocimientos técnicos.

El día 28 de septiembre diputadas/os y distintas referencias del sector académico se juntaron a dialogar en el Salón Blanco de la Cámara baja, con el fin de  analizar las oportunidades, riesgos y desafíos que abre la inteligencia artificial y que deberían considerarse en su regulación. La jornada fue convocada por la Oficina Científica de Asesoramiento Legislativo (OCAL) de la Honorable Cámara de Diputados de la Nación (HCDN).

En una sociedad con una creciente precarización laboral, un horizonte incierto y acelerado por las nuevas tecnologías, hay una necesidad clara: “que la inteligencia artificial no contribuya a una mayor desigualdad económica, cultural y de derechos”. Así comenzó la exposición Laura Alonso Alemany, fomentando lo que otros colegas también plantearon. Laura, además de integrante de la Fundación Vía Libre es profesora e investigadora de la Universidad Nacional de Córdoba. En la intervención que llevó adelante, propuso dejar de identificar a la Inteligencia Artificial como una ‘fuerza oscura’ o una ‘red neuronal incomprensible’ que nos confunde y nos ciega creyéndola más difícil de regular.

“Auditar inteligencia artificial no requiere necesariamente habilidades técnicas. Y no lo digo desde el deseo, desde lo abstracto, sino desde una experiencia de varios años ya trabajando con personas que exploran herramientas de inteligencia artificial para diagnosticar sus posibles sesgos. En nuestro trabajo conjunto entre la Universidad Nacional de Córdoba y la Fundación Vía Libre, hemos colaborado con expertos en sociología, personas jóvenes, expertos en nutrición, psicología, activistas.” Laura habla de EDIA, una herramienta disponible en la web, para identificar sesgos en tecnologías del lenguaje sin necesidad de recurrir a habilidades técnicas. EDIA es un desarrollo del equipo de ética de Vía Libre.

Laura fue en la Cámara de Diputados portavoz de un grupo de trabajo e investigación más grande que viene llevando a cabo distintas experiencias con diferentes grupos. Pero además puso en la mesa de Diputados que: “Para especificar de forma adecuada el contexto de aplicación y prevenir comportamientos discriminatorios necesitamos expertos en discriminación, no solamente expertos en sistemas informáticos. Y expertos con muchos puntos de vista distintos. No solamente doctores en sociología, que sí, sin duda, pero también personas que son expertas porque experimentan discriminación en su vida cotidiana, como personas con discapacidades, grupos marginalizados, personas atípicas, personas que hayan pasado situaciones de estrés, dificultades familiares o económicas.”

Un ejemplo que compartió forma parte del trabajo de un grupo de estudiantes de secundario de Uruguay, que pudieron reflejar, utilizando la herramienta EDIA, la percepción negativa de ciertos aspectos de la sexualidad femenina, que queda fuertemente asociada a enfermedades, en contraste con la sexualidad masculina, mucho menos asociada a enfermedades.


Varios profesionales fueron convocados a exponer ese día en la Cámara de Diputados. Entre ellos, parecía interesante e interseccional compartir el proyecto que llevó a cabo Victoria Dumas, de la Fundación Sadosky y Directora del Programa de Ciencia de Datos e Inteligencia Artificial. Inteligencia Artificial: ¿para qué y para quiénes? Se puede descargar al final de la nota. Victoria nos plantea la importancia de entender los procesos de datos como actividades extractivistas equiparables a la minería. “En la actualidad 4 de las 5 empresas que más facturan basan su negocio en datos. Pero estos datos son capturados de manera extractivista, sin dejar ingresos de ningún tipo para quienes generan esos datos, y dejando a los estados sin poder siquiera cobrar aranceles por los servicios digitales importados, porque existe una moratoria de la Organización Mundial de Comercio que así lo establece.” Además habló de la importancia de prestar atención al uso de estas tecnologías y sus consecuencias ambientales.

“Requieren del uso de grandes sistemas de cómputo, que presentan muy altos consumos energéticos y de agua dulce para su refrigeración. Esa energía en su gran mayoría se genera a partir de la quema de combustibles fósiles. En este contexto, en el que reducir drásticamente las emisiones es crucial para tener alguna chance de sostener la vida humana sobre este planeta, no podemos permitirnos que se extienda tan libremente el uso de tecnologías que además de los otros impactos antes mencionados implican elevar el consumo energético.

Llevar a cabo este encuentro con distintos profesionales a la escucha de las y los diputados que hoy legislan, es insoslayable. Poder recoger las voces de los distintos actores que intervienen y que son afectados por estas inteligencias artificiales debe ser, además, indispensable para poder pensar en su legislación. Sin olvidar, como decía Galeano, las voces de los nadies, aquellas y aquellos que son los principales afectados por las acciones. Para eso, se necesita bajar aún más las barreras tecnológicas.

Podes conocer más respecto a EDIA: https://www.vialibre.org.ar/edia-sesgos-de-genero/

Si querés leer el discurso completo de Victoria Dumas, podes encontrarlo en: https://fundacionsadosky.org.ar/wp-content/uploads/2023/10/Presentacion-HCDN-28-de-septiembre-de-2023-Inteligencia-Artificial_para-que-y-para-quienes.pdf

E.D.I.A

¿Puede la inteligencia artificial tener sesgos y estereotipos?

Creemos que sí. Para eso creamos una herramienta para que puedas sin conocimientos técnicos auditarla.

Scroll al inicio