Qué es GAMA-Bench y qué mide exactamente
Un benchmark de 1.298 escenarios y 10 modelos de lenguaje encontró que, ante la misma mala conducta, la IA responde con más castigo cuando el protagonista es hombre y con más empatía cuando es mujer. Se llama GAMA-Bench y es un benchmark de género espejado: el mismo escenario se presenta dos veces, cambiando solo el género del actor. Lo introduce un preprint en arXiv titulado Harsher on Male? Evaluating LLMs on Gender-Asymmetric Moral Framing in Conflicts.
La construcción del benchmark es lo interesante para cualquiera que evalúe modelos. Los autores armaron plantillas de mala conducta neutrales al género mediante grillas controladas y revisión cruzada entre modelos, y después las convirtieron en pares de prompts en primera persona donde solo cambia el género del actor y las referencias de rol. Los escenarios cubren dos terrenos: conflictos de relaciones íntimas y conflictos sociales públicos.
Sobre esa base aplicaron un protocolo estructurado de framing que mide cinco cosas concretas: cuánto castigo asigna el modelo, cuánta empatía, cuánta escalada, cuánta instrucción y cuánta culpa. No es una encuesta de percepción: es una medición del tono y del tipo de respuesta que el modelo produce.
Leíste lo que hace la IA. ¿Y en tu negocio?
Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.
👥 Quiero el Kit →¿Qué encontraron exactamente los investigadores?
El patrón es consistente y va en una sola dirección. Los actores masculinos reciben un encuadre más punitivo, más escalatorio y más centrado en la culpa. Los actores femeninos reciben, para la misma falta, un encuadre más terapéutico y orientado a la empatía.
Lo relevante es la persistencia. Según el paper, el patrón se mantiene a través de distintas familias de modelos, de los dos tipos de escenario, de distintos tamaños de modelo y también cuando se activa razonamiento explícito estilo thinking. Es decir: no es el comportamiento de un modelo puntual ni un artefacto de escala.
El abstract no nombra cuáles son los 10 modelos evaluados, así que conviene no atribuir el hallazgo a una marca concreta. Lo que sí se publica es el código oficial del benchmark, lo que permite replicar la medición con escenarios propios.
¿Por qué el resultado va en la dirección opuesta a la intuición?
La conversación pública sobre sesgo en IA suele asumir una sola dirección: el sistema perjudica a las mujeres. Este trabajo mide otra cosa y encuentra lo contrario en un eje específico, el del encuadre moral.
Conviene leerlo con precisión. Que la IA sea más dura con el actor masculino no significa que sea justa con el femenino. Significa que el mismo hecho recibe dos respuestas distintas según quién lo comete, y que la respuesta cambia de registro: castigo y escalada para uno, contención y empatía para la otra.
Para un producto eso es un problema de consistencia, no de ideología. Si tu sistema de moderación, de soporte o de recursos humanos responde distinto al mismo input según el género del actor, tu criterio de decisión no es el que crees que es.
Los antecedentes: la IA ya mostraba sesgos medibles
Este no es un hallazgo aislado. Un estudio publicado en la revista Nature y difundido por La Voz de Galicia el 8 de octubre de 2025 analizó 1,4 millones de imágenes en cinco plataformas y nueve modelos de lenguaje, y encontró que se representa a las mujeres profesionales como más jóvenes y, por lo tanto, menos experimentadas que sus colegas masculinos. En el mismo trabajo, al generar casi 40.000 currículums, ChatGPT asumió que las candidatas eran 1,6 años más jóvenes y con menos experiencia laboral, y calificó mejor a los hombres de mayor edad para los mismos puestos. Los autores son Solène Delecourt (Berkeley Haas), Douglas Guilbeault (Stanford) y Bhargav Srinivasa Desikan (Oxford).
Hay más. Un estudio de investigadores de Harvard y el MIT difundido en arXiv y SSRN, todavía sin revisión por pares, analizó 86.000 respuestas de IA y detectó que los modelos recomiendan salarios objetivo más altos para los hombres, según reportó Forbes Argentina. La mayor brecha apareció en Claude, con casi US$16.000 más para los candidatos masculinos; GPT recomendó alrededor de US$2.700 adicionales, mientras que Gemini y Llama mostraron diferencias menores. Los modelos evaluados fueron GPT-5.4-mini, Claude Sonnet 4.6, Gemini 2.5 Flash y Llama 3.3 70B. Por puesto, la brecha más grande se dio entre consultores de gestión, con US$5.370 de diferencia.
El costo económico de estas brechas también está medido. Según el informe de Closingap citado por la consejera de Economía de Castilla-La Mancha, Patricia Franco, España tardaría otros 36 años en alcanzar la igualdad efectiva y la desigualdad tiene un coste estimado de 271.000 millones de euros, reportó Objetivo Castilla-La Mancha.
¿Qué significa esto para tu startup?
Tres consecuencias prácticas.
Primero, tu evaluación de modelos necesita pares espejados. Casi nadie prueba su prompt con el mismo caso cambiando solo el género del protagonista. Es la prueba más barata que existe y la que revela este tipo de asimetría.
Segundo, el encuadre es una decisión de producto. Si tu IA redacta respuestas a clientes, evaluaciones de desempeño o mensajes de cobranza, el registro que elige, punitivo o empático, tiene efectos comerciales. Un tono más duro con un segmento de usuarios es una fuga de clientes esperando a ocurrir.
Tercero, la trazabilidad se está volviendo requisito. Expertos citados por La Voz de Galicia piden auditar los algoritmos y exigir transparencia, en línea con el Reglamento Europeo de Inteligencia Artificial. Tener documentada tu evaluación de sesgo deja de ser un gesto de buena voluntad y pasa a ser parte del expediente.
Cómo auditar tu producto en una tarde
- Arma entre 20 y 30 escenarios de conducta negativa propios de tu dominio: un reclamo agresivo, un incumplimiento, un error de facturación.
- Escribe cada escenario dos veces, cambiando solo el género del actor y dejando idéntico todo lo demás.
- Corre ambos pares con el mismo modelo, la misma temperatura y el mismo prompt de sistema.
- Puntúa cada respuesta en los cinco ejes del paper: castigo, empatía, escalada, instrucción y culpa.
- Repite con dos o tres modelos distintos y compara. Si la diferencia aparece en todos, el problema está en tu prompt de sistema, no en el proveedor.
Conclusión
GAMA-Bench no dice que la IA sea sesgada en una dirección obvia. Dice algo más incómodo: que ante el mismo hecho produce dos respuestas morales distintas según quién lo comete, y que esa asimetría sobrevive al cambio de modelo, de escala y de tipo de razonamiento. Para un founder, la lectura es simple: si no mediste tus propios escenarios con pares espejados, no sabes qué criterio está aplicando tu producto. Y ese criterio, hoy, lo está eligiendo el modelo por ti.
Fuentes
- arXiv: Harsher on Male? Evaluating LLMs on Gender-Asymmetric Moral Framing in Conflicts (fuente original)
- La Voz de Galicia: El algoritmo discrimina a las mujeres
- Forbes Argentina: El sesgo oculto de la IA
- Objetivo Castilla-La Mancha: Patricia Franco pide actuar para que la IA no reproduzca el sesgo de género
Leíste lo que hace la IA. ¿Y en tu negocio?
Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.
👥 Quiero el Kit →













