El lunes 26 de junio, realizamos un encuentro con representantes del Programa de las Naciones Unidas para el Desarrollo (PNUD) de Guatemala. La reunión que contó con la participación de más de veinte personas, se centró en el potencial de EDIA (Estereotipos y Discriminación en Inteligencia Artificial) para evaluar procesos que involucran tecnologías del lenguaje bajo el paraguas del PNUD. Durante el encuentro, se discutió sobre los riesgos de discriminación en tecnologías del lenguaje humano y la importancia de abordar los modelos de lenguaje (como ChatGPT) desde una perspectiva más social y centrada en las personas.
El objetivo fue analizar y comprender beneficios y riesgos de las tecnologías del lenguaje, especialmente en lo que respecta a la detección y mitigación de sesgos y estereotipos en estos recursos. Se buscó ilustrar cómo se están utilizando y se pueden usar estas aplicaciones en diversos campos, como la salud, la violencia de género y resaltar la importancia de desarrollar una visión crítica de las mismas.
La reunión fue moderada por Carlos Mazariegos, del Laboratorio de Aceleración del PNUD, y contó con la participación de diferentes voces del Programa, quienes hicieron hincapié en el interés de inspeccionar las tecnologías desde una perspectiva más social. En representación de la Fundación, Beatriz Busaniche realizó una introducción destacando la importancia de contextualizar este trabajo en Latinoamérica y considerar las particularidades de nuestra región al abordar estas tecnologías que deben ser pensadas para y por los territorios donde se usarán.
Desde el equipo de ética de IA presentamos nuestro instrumento EDIA, una herramienta gratuita y de código libre, como también lo son los modelos de lenguaje que usa. Diseñada para facilitar la auditoría y la participación de expertos en el diagnóstico de sesgos, así como la adaptación de modelos de lenguaje pre-entrenados a datos locales. Durante la charla, Laura Alonso Alemany resaltó la urgencia de desarrollar una visión crítica de estas tecnologías, ya que, si bien ofrecen grandes ventajas, también la automatización de las mismas, puede generar daños en la reproducción y amplificación de la discriminación. Guido Ivetta, por su parte, ilustró diferentes funcionalidades con ejemplos del prototipo y la importancia de visualizar de manera intuitiva los sesgos en los modelos de lenguaje. Luciana Benotti desarrolló la posibilidad de adaptar los modelos de lenguaje pre-entrenados, como BERT, GPT-3 y ChatGPT, creando tecnologías similares adaptadas a nuestra cultura y nuestros problemas locales con recursos limitados.
Además, desde la Fundación Vía Libre profundizamos en un caso concreto: “Sara”, un chatbot diseñado para prevenir la violencia contra mujeres, niñas y adolescentes, creado por el PNUD en colaboración con la Agencia para el Desarrollo Internacional de los Estados Unidos (USAID). En la presentación se destacó cómo EDIA podría mejorar la comprensión de paráfrasis y, por lo tanto, mejorar la interacción del mismo chatbot.
En el encuentro coincidimos en la necesidad de validar y contextualizar estas herramientas para evitar la construcción de nuevos riesgos. Y se exploró la posibilidad de futuras alianzas conjuntas.
Acerca del PNUD
El Programa de las Naciones Unidas para el Desarrollo (PNUD), a través de su estrategia digital y plan estratégico, presenta una visión a largo plazo para crear un mundo en el que lo digital sea una fuerza de empoderamiento para las personas y el planeta, buscando apoyar a los países en tres direcciones de cambio: estructural. transformación, no dejar a nadie atrás y desarrollar resiliencia, y subraya la importancia de lo digital como uno de los tres facilitadores para lograr este cambio.
https://www.undp.org/es/guatemala
La red de laboratorios aceleradores del PNUD está compuesta por 91 equipos de laboratorio que cubren 115 países. Los laboratorios están diseñados para cerrar la brecha entre las prácticas actuales de desarrollo internacional a un ritmo acelerado de cambio. Modelan una nueva capacidad para lograr avances en el futuro del desarrollo, incluída la cuarta revolución industrial.
