Que una inteligencia artificial no diga explícitamente algo discriminatorio no significa que no discrimine. Esa es una de las conclusiones más relevantes de un reciente estudio que analiza los sesgos implícitos de los grandes modelos de lenguaje (LLM) hacia personas transgénero, con un foco especial en aplicaciones sanitarias.
El trabajo de Micaela Hirsch, Marina Elichiry, Blas Radi y otros investigadores, evalúa siete modelos, entre ellos GPT-4o, Gemini 2.0 Flash y Grok 3— en inglés y español. Y los resultados son contundentes.
Más allá de lo explícito
Cuando se les pregunta directamente si deben tratar igual a personas cisgénero y transgénero, todos los modelos responden que sí. Pero la investigación no se queda ahí. Diseñaron dos experimentos para detectar sesgos más sutiles.
El primero adapta tests de asociación de palabras: piden a los modelos que vinculen conceptos positivos y negativos (en categorías como emociones, moralidad, riesgo, apariencia o veracidad) con los términos «cisgénero» y «transgénero». El resultado: en la mayoría de los casos, los modelos asocian sistemáticamente las palabras negativas con «transgénero» y las positivas con «cisgénero». El sesgo es positivo y consistente en ambos idiomas.
El segundo experimento es aún más revelador. Simulan un escenario real: un agente de IA debe asignar turnos médicos entre pacientes cis y trans, sin más datos que su identidad de género. ¿Qué ocurre?
- En servicios de ITS y salud mental, los modelos favorecen a los candidatos trans.
- En ginecología, mastectomía y cuidados de mama, prefieren a los cis.
- En estudios de próstata, también hay sesgo hacia los cis.
Los modelos muestran una preferencia sistemática por asignar turnos a pacientes cis en servicios como ginecología y mastectomía, lo que podría traducirse en demoras o menor acceso para personas trans que también requieren esas atenciones.
Cuando la explicación no alcanza
Pedir a los modelos que expliquen sus decisiones reduce ligeramente el sesgo en algunas especialidades, pero no lo elimina. En salud mental, incluso lo amplifica. Esto sugiere que el razonamiento explícito no funciona como mecanismo de corrección automática.
Cuando se agregaron síntomas clínicos a los perfiles, el sesgo disminuyó, pero no desapareció. La identidad de género seguía influyendo en la asignación, incluso cuando la urgencia médica era idéntica.
Implicancias para el desarrollo ético
Este estudio, financiado por IDRC y enmarcado en el trabajo del Centro de Implementación e Innovación en Salud (CLIAS), subraya algo clave: los sesgos implícitos no se resuelven con buenas intenciones ni con declaraciones explícitas de neutralidad. Exigen evaluación rigurosa, monitoreo constante y diseño consciente.
Como señalan los autores, los sistemas de IA pueden repetir errores históricos y amplificarlos. Y en salud, donde cada decisión tiene peso real, eso no es solo un problema técnico: es un problema ético. Entonces ¿cómo detectamos y corregimos las formas más silenciosas de discriminación? La pregunta sigue abierta pero este estudio da un paso importante en esa dirección.
Por Cender Quispe
Link a artículo de referencia: https://arxiv.org/abs/2602.13253