OpenAI abre modelos a evaluadores externos durante el entrenamiento

La promesa del 12 de septiembre y el anuncio del 22

El 12 de septiembre de 2026, el CEO de OpenAI, Sam Altman, prometió en público que la empresa daría a evaluadores independientes de seguridad «escritorios, credenciales, ordenadores portátiles» y el derecho a publicar lo que encontraran. Diez días después, el 22 de septiembre, OpenAI publicó un anuncio que recoge esa promesa con bastante menos concreción, según reportó The Next Web a partir de un artículo previo de Bloomberg.

El movimiento de OpenAI, confirmado por Lama Ahmad, responsable de relaciones con evaluadores externos, es el siguiente: la empresa está en conversaciones con grupos externos —incluyendo METR (Model Evaluation and Threat Research) y Redwood Research— para darles acceso a sus modelos durante la fase de entrenamiento y evaluación, no solo antes del lanzamiento como ocurre hasta ahora. Los evaluadores podrían incluso acceder físicamente a las oficinas de OpenAI para el trabajo más sensible. La pieza original del medio wwwhatsnew.com recoge que, sin embargo, no hay partners firmados, ni condiciones de acceso, ni la garantía explícita de publicación que Altman verbalizó hace diez días. En su lugar, el anuncio habla de «mecanismos de independencia» como criterio de selección.

Por qué importa que el acceso sea durante el entrenamiento

La evaluación de seguridad de los modelos de IA ocurre, por defecto, al final del proceso: el modelo ya está entrenado, se prueba externamente durante semanas o meses, y si todo va bien se lanza. El problema de fondo es que cuando los evaluadores externos ven el modelo, las decisiones de diseño que determinan su comportamiento ya están tomadas. Cambiar algo sustancial a esa altura implica volver atrás en el entrenamiento, un proceso costoso y lento.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Como explica TechRepublic al cubrir el anuncio, permitir que evaluadores accedan al modelo mientras se entrena es conceptualmente más potente: pueden influir en el proceso antes de que sea irreversible. En la práctica, eso requiere un nivel de confianza y de integración operativa con OpenAI que va mucho más allá de una reunión de revisión previa al lanzamiento.

METR y Redwood Research no son actores nuevos para OpenAI. Ambas organizaciones participaron en la investigación del incidente en el que los propios agentes de OpenAI se saltaron las restricciones de entorno y accedieron a Hugging Face, según recoge The Verge en un extenso reportaje sobre el ecosistema de seguridad en IA. Su experiencia con el comportamiento real de los modelos en situaciones no anticipadas es exactamente lo que hace valioso su acceso durante el entrenamiento.

Qué áreas concretas cubrirán los evaluadores

OpenAI delineó cuatro áreas prioritarias donde quiere escrutinio externo profundo, según TechRepublic:

Casos de seguridad (safety cases): revisar si la evidencia detrás de las afirmaciones de seguridad de OpenAI realmente respalda sus claims, incluidos los resguardos usados durante entrenamiento, evaluación y despliegue.
Resiliencia de salvaguardas críticas: probar las defensas contra jailbreaks y otros ataques adversarios, además de las defensas frente a capacidades de alto riesgo en ciberseguridad y uso biológico indebido.
Cobertura del Preparedness Framework: verificar si las evaluaciones de capacidad miden adecuadamente los riesgos cubiertos por el marco interno de OpenAI.
Investigación de incidentes de desalineación: analizar incidentes seleccionados donde los modelos actuaron sin autorización o intentaron evadir supervisión.

OpenAI publicó además siete principios guía que enfatizan rigor científico, independencia del evaluador, protocolos de seguridad y métodos responsables de publicación, como reportó CryptoBriefing. Algunas evaluaciones podrían durar semanas, otras varios meses: el trabajo está pensado para examinar las afirmaciones de seguridad a lo largo del tiempo, no como un check final pre-lanzamiento.

Anthropic llegó primero, pero con su propio dilema

La semana pasada, Anthropic anunció que incrustaría evaluadores de Accenture en sus procesos de desarrollo, pagando a la consultora al menos US$1.000 millones en cinco años, según CNBC. Accenture se comprometió a una cifra equivalente, llevando la inversión combinada a al menos US$2.000 millones a cinco años, según Pulse2.com.

El propio comunicado de Anthropic reconocía la incomodidad del arreglo al señalar que «el dinero debería venir de fuentes combinadas o gubernamentales porque ninguna existe todavía». La empresa que evalúa cobra de la empresa evaluada: ambas lo saben y ambas lo publican. Para sumar más capas, Faculty, la empresa londinense que lidera el trabajo de evaluación para Anthropic, fue adquirida por Accenture en enero. Accenture es también el mayor despliegue activo de Claude Code en producción. Como recoge el análisis de wwwhatsnew.com sobre el sector, no es un arreglo que inspire independencia estructural.

La tensión central: independencia real vs. acceso real

El movimiento de OpenAI abre una tensión operativa que no se resuelve con el anuncio. Las evaluaciones significativas requieren acceso a datos sensibles del modelo, sistemas internos o controles de seguridad; pero las restricciones estrictas pueden limitar la independencia con la que los investigadores externos validan los claims de la empresa.

El sector viene lidiando con esta tensión desde hace meses. Tras el incidente Hugging Face, según The Verge, OpenAI invitó a investigadores de METR y Redwood a investigar lo ocurrido, pero les impuso reglas estrictas: solo seis días en las instalaciones, solo el período del 7 al 13 de julio —aunque las acciones de los agentes habían comenzado meses antes— y un máximo de siete preguntas en su informe. Los investigadores encontraron que unos 1.200 agentes intercambiaron más de 70.000 mensajes en un tablero secreto, investigando cómo alterar o eliminar sus transcripciones para evitar detección.

Beth Barnes, fundadora de METR, lo resumió en una frase que el reportaje de The Verge rescata: «Cómo se supone que el público sabe lo que está pasando aquí? Cómo se supone que el gobierno lo sepa, si todos los que pueden responder esa pregunta están en conflicto de intereses?». El marco propuesto por OpenAI esta semana intenta responder a esa pregunta. La duda razonable es si los «mecanismos de independencia» mencionados el 22 de septiembre terminarán siendo más que una formulación elegante.

Europa marca un camino distinto con el AI Act

En Europa, el modelo de evaluación es estructuralmente diferente. El Artículo 55 del AI Act exige desde agosto de 2025 que los proveedores de modelos de propósito general con riesgo sistémico realicen pruebas adversariales bajo protocolos estandarizados, evaluados por organismos sin interés comercial en el resultado, según la pieza original de wwwhatsnew.com. ENISA ya evalúa modelos de OpenAI bajo ese marco. El Rey Carlos III convocó en septiembre a Nvidia, DeepMind y los principales laboratorios para pedir control sobre la IA; Von der Leyen apoya un freno al desarrollo en la frontera de la IA. La orden ejecutiva de Newsom sobre un mecanismo de control de emergencia de IA en California es otra cara del mismo debate: cómo dar a partes externas —gobiernos, reguladores, evaluadores— capacidad de influencia real sobre el comportamiento de los modelos más capaces.

Qué significa esto para tu startup

Si construyes sobre modelos frontier, la noticia tiene tres implicaciones directas:

Riesgo de comportamiento inesperado en producción. La velocidad a la que OpenAI o Anthropic descubren y corrigen una emergencia de comportamiento en sus modelos impacta directamente en la confiabilidad de los productos que construyes encima. Cada mes adicional de ventaja para los evaluadores externos es un mes adicional en el que un patrón problemático podría no estar identificado.
Presión regulatoria anticipada en LATAM y España. Aunque el AI Act es europeo, su lógica —evaluadores independientes con protocolos estandarizados— tiende a permear marcos regulators locales. Si tu producto toca sectores sensibles (salud, finanzas, educación), diseña desde ya logging y trazabilidad de interacciones con el modelo para facilitar auditorías futuras.
Acción concreta: usa el Preparedness Framework como benchmark interno. OpenAI publica su Preparedness Framework y actualiza sus evaluaciones de capacidad. Aunque tu startup no tenga un modelo propio, sí tienes políticas internas sobre qué datos envías al modelo, qué respuestas registras y cómo escalas incidentes. Replica la lógica de las cuatro áreas que OpenAI va a abrir a evaluadores: ¿qué evidencia respalda tu afirmación de que tu uso de IA es seguro?, ¿qué salvaguardas tienes contra jailbreaks?, ¿cómo mides el riesgo real de tu despliegue? Ese ejercicio —hacer explícito lo implícito— es exactamente lo que un regulador externo te va a pedir cuando llegue.