Hacia el diseño inclusivo de grandes modelos de lenguaje clínico en español: caracterización y medición de daños representacionales para la salud trans

Nombre de la Institución: Centro Interdisciplinario de Estudios en Ciencia, Tecnología e Innovación (CIECTI)

País: Argentina

Investigador/a Principal: Verónica Xhardez

Resumen del Proyecto

El advenimiento de los grandes modelos de lenguaje (LLMs) y su adopción en el ámbito de la salud plantea importantes preguntas sobre sesgos, especialmente en poblaciones vulnerables como las personas trans. Este proyecto tiene como objetivo comprender si estos modelos en español pueden causar daños representacionales específicos en el contexto de la salud, con un enfoque particular en la salud sexual y reproductiva (SSyR) de las personas trans. Un equipo interdisciplinario desarrollará una metodología para evaluar estos sesgos y construirá herramientas para medir y mitigar estos daños en modelos clínicos y generalistas. El resultado de esta investigación contribuirá a una mejor comprensión de las limitaciones de los LLMs y proporcionará recursos para futuras auditorías, ayudando a reducir los daños en la representación de personas trans en el sistema de salud.

Equipo de investigación:

  • Enzo Ferrante. Especialista técnico para la implementación y evaluación de LLMs
  • Jocelyn Dunstan. Especialistas técnico para la implementación y evaluación de LLMs
  • Blas Radi. Conceptualización y diseño de la base de datos para auditar LLMs, como especialista en estudios de sexualidad trans
  • Marina Elichiry. Conceptualización y diseño de la base de datos para auditar LLMs, como especialista en estudios de sexualidad trans
  • Tamara Quiroga. Apoyo en la implementación y evaluación de LLMs

 

Ir al contenido