Jueces LLM no detectan omisiones en notas clínicas con IA

El hallazgo central: los jueces LLM detectan lo añadido, no lo omitido

Un paper recién publicado en arXiv evaluó ocho diseños distintos de "juez LLM" usados para auditar notas clínicas generadas por AI scribes y encontró un patrón que los clínicos venían sospechando: estos jueces detectan con alta precisión cuándo un modelo añade o altera información respecto a la transcripción, pero se quedan cerca de una moneda al aire cuando la nota simplemente omite un hecho que la consulta sí estableció. La métrica de discriminación por pares, donde 0,5 es lanzar una moneda, quedó entre 0,79 y 0,94 para contenido añadido o alterado, y entre 0,50 y 0,63 para omisiones.

Cómo lo probaron: 500 pares y ocho diseños de juez

Los autores señalan que los corpus clínicos públicos no sirven para responder la pregunta porque las notas de referencia del clínico y las transcripciones son materialmente discrepantes entre sí. Construyeron entonces un benchmark propio de 500 pares de nota con un único error: 298 con un hecho nombrado que la nota omite con certeza, y 202 controles con contenido añadido o alterado. Sobre ese banco probaron ocho diseños distintos de juez, incluyendo variaciones de redacción, votación entre modelos y optimización de prompts con GEPA, un optimizador evolutivo de instrucciones.

La cifra más preocupante: 0,50-0,63 sobre omisiones

En notas individuales, ninguno de los ocho diseños señaló las omisiones de forma fiable más a menudo que las notas perfectas. Cambiar el wording, votar y optimizar el prompt movió el punto de operación, pero no creó detección utilizable sobre lo que falta. En la práctica clínica esto significa que el guardarraíl automático que muchas plataformas clínicas están desplegando es funcionalmente ciego al tipo de error que más domina las auditorías publicadas: la información que el encuentro médico estableció y la nota no registró.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Reestructurar la tarea recupera la detección

El paper encuentra una salida concreta: pedirle al juez que primero liste los hechos que la transcripción establece y luego verifique la nota contra cada uno. Dos métodos lo logran de forma independiente. Un pipeline por hecho nombra el hecho faltante y su severidad, con un 2,7% de falsas alarmas. Una llamada única optimizada con GEPA detecta más (36,9% contra 24,6%, p=0,002) al 6,2% de falsas alarmas y a un décimo del costo por nota. Un autor médico validó 70 elementos y, donde los dos métodos discreparon, dio la razón al pipeline en 10 de 10 casos (p=0,002). En notas reales de proveedores, ningún umbral del benchmark transfirió directamente, pero la llamada única recalibrada detectó más que el mejor de los ocho diseños originales a la mitad de su tasa de falsas alarmas.

Por qué importa en un mercado que se sextuplica

El hallazgo llega en plena expansión del sector. Según SNS Insider, el mercado global de AI medical scribing se valoró en US$1,67 mil millones en 2025 y se proyecta a US$9,67 mil millones hacia 2035, con un CAGR del 19,21%. Norteamérica concentra alrededor del 52% del mercado; Asia Pacífico es la región de mayor crecimiento, con un CAGR proyectado del 23,19%. Speech recognition lidera la tecnología con cerca del 43% de cuota en 2025, el despliegue cloud concentra alrededor del 68%, y los hospitales y sistemas de salud son el principal usuario final con cerca del 49% de cuota.

Las auditorías regulatorias están encontrando los mismos problemas que el paper mide en laboratorio. Healthwatch England reportó a mediados de 2026 que al menos 27 herramientas de AI scribe están en uso en el NHS sin un estándar compartido de tasas de error aceptables ni un cuerpo central que audite su salida. Casos documentados incluyen la transcripción de un resultado negativo como hallazgo positivo de desmielinización, medicación cambiada por otra de nombre parecido, e instrucciones de seguimiento que desaparecen del resumen final. Una encuesta de YouGov comisionada por Healthwatch en abril de 2026 sobre más de 4.000 adultos británicos encontró que el 90% de los pacientes con cita en el último año no sabía que se había usado un AI scribe, y el 81% quiere ser informado y dar consentimiento previo.

¿Qué significa esto para tu startup?

Tres implicaciones concretas si estás construyendo o vendiendo tooling de IA clínica, o cualquier producto con evaluación LLM-as-judge:

Audita por ausencia, no solo por presencia. Si tu pipeline de QA revisa notas, resúmenes, contratos o cualquier output generado, añade una pasada explícita de omisiones: "lista los hechos que la fuente establece; verifica cuáles faltan en el output". El paper muestra que ese simple cambio de estructura recupera detección donde el judge estándar falla.
No confíes en el juez por defecto. Variaciones de wording, votación y optimización con GEPA movieron el punto de operación pero no crearon detección útil sobre omisiones. Si tu métrica de calidad depende de un LLM-as-judge sin reestructurar la tarea, estás midiendo lo que el modelo detecta bien y dejando fuera lo que falla. Documenta la métrica separada por tipo de error.
La economics define si puedes verificar todo o solo muestras. La versión de llamada única del paper logra 36,9% de detección al 6,2% de falsas alarmas y a un décimo del costo por nota respecto al pipeline por hecho. En producción, esa economics define si corres la verificación en cada nota clínica o solo en muestreos. Si vendes a hospitales con márgenes ajustados, la versión optimizada es la única viable a escala.