Anthropic da acceso de empleado a 6 evaluadores de METR

Anthropic abre sus sistemas: seis evaluadores de METR trabajarán desde adentro

Anthropic empezó a dar acceso tipo empleado a un equipo de seis personas de METR, la organización sin fines de lucro que evalúa modelos de IA de frontera. Tienen portátiles de la compañía, espacio de oficina y permisos sobre herramientas internas comparables a los de los equipos propios de evaluación de riesgos de Anthropic, según el anuncio del 15 de octubre de 2026 recogido por Unite.AI.

Para un founder que construye producto sobre modelos de frontera, la señal es concreta: el estándar de evidencia se está moviendo hacia abajo en la cadena. Lo que hoy Anthropic le exige a un evaluador externo es lo que mañana tus clientes enterprise van a pedirte a ti.

¿Qué anunció Anthropic exactamente?

El compromiso viene de antes. Según Unite.AI, en septiembre de 2026 la compañía ya había comprometido una evaluación independiente y de terceros más fuerte de sus modelos y prácticas de seguridad, y firmó el Acuerdo de la Casa Blanca sobre Superinteligencia, en el que las empresas participantes se comprometen a trabajar con auditores o evaluadores externos independientes.

El paso de esta semana es la ejecución: METR publicará los resultados de sus evaluaciones de riesgo sobre Anthropic, incluidos niveles de riesgo, incidentes y prácticas. La empresa también trabaja con SecureBio y Accenture como evaluadores, y mantiene conversaciones iniciales con otras organizaciones, entre ellas Hugging Face.

Hay un detalle que vale para cualquiera que venda software a empresas reguladas: Anthropic aceptó que no puede vetar la publicación. Sí puede exigir la censura de información en categorías acotadas y predefinidas —datos de clientes, material protegido por secreto profesional, información sobre arquitecturas de modelos—, pero el evaluador es libre de decir públicamente qué se censuró y si le pareció justificado.

Tres niveles de acceso: el marco que Anthropic está probando

La compañía definió tres escalones, y la letra chica de cada uno importa más que el titular:

• Primer nivel: investigaciones de riesgo de alcance acotado. Anthropic decide qué acceso da, y el evaluador publica sus hallazgos con aprobación de la empresa. Ahí está hoy SecureBio, revisando el capítulo de armas químicas y biológicas del informe de riesgos de agosto.
• Segundo nivel: el evaluador publica sin aprobación previa y accede a más información. Anthropic todavía puede exigir la eliminación de categorías específicas, y el evaluador puede opinar públicamente sobre si esas censuras fueron justificadas.
• Tercer nivel: el arreglo con METR, con acceso tipo empleado y derechos de publicación similares a los del segundo nivel.

La ambición declarada es tener varios evaluadores en el tercer nivel, cada uno publicando su propio análisis de la postura de riesgo y las decisiones clave de Anthropic.

¿Por qué una empresa acepta que la auditen desde adentro?

El argumento de Anthropic es de aritmética: a medida que los modelos se vuelven más potentes, las evaluaciones de riesgo se vuelven más difíciles, y la empresa no puede publicar todo lo relevante —parte de esa información le serviría a actores maliciosos, y otra es comercialmente sensible, como datos de cómputo o de entrenamiento. La salida es dar acceso profundo a terceros y dejar que ellos compartan evidencia y conclusiones razonadas.

La compañía enumera cuatro condiciones que un evaluador de modelos de frontera necesita: expertise para juzgar capacidades y entender cómo una evaluación puede salir mal —por ejemplo, con simulación de alineación—; independencia real, sin participación accionaria ni dependencia financiera u operativa de la empresa auditada; acceso suficiente, que va más allá del modelo final e incluye cómo se entrenó y cómo funcionan las salvaguardas; y libertad para publicar sus observaciones.

La analogía que usa Anthropic es la supervisión bancaria: los bancos saben más de su propio riesgo que cualquier outsider, así que los reguladores asignan examinadores residentes dentro de los bancos más grandes. La analogía no es exacta, admite la empresa, pero la lógica es la misma.

La letra chica: silos, censuras y quién paga

El acceso no es para toda la organización. Según el anuncio, el vínculo con METR se limita a un equipo pequeño que opera bajo acuerdos exigibles, y el resto de los empleados de METR —incluidos investigadores que trabajan con Anthropic en otros proyectos— queda aislado de ese trabajo. La empresa insiste en que esto no es una vía para que otras organizaciones obtengan su información ni la de sus clientes y socios.

El financiamiento también está en discusión. CryptoBriefing reportó que Anthropic y Accenture esperan invertir al menos US$1.000 millones cada una en los próximos cinco años en un programa de evaluación embebida liderado por Faculty, la unidad especializada en IA de Accenture. Anthropic financiará directamente ese trabajo, aunque la empresa sostuvo antes que las evaluaciones independientes deberían financiarse a través de mecanismos mancomunados o respaldados por gobiernos. Tener al auditado pagando al auditor es, precisamente, el punto que los especialistas miran con lupa.

Los evaluadores independientes todavía piden garantías

TechCrunch cubrió la propuesta cuando Dario Amodei, CEO de Anthropic, la planteó en septiembre de 2026, y los terceros consultados dieron una respuesta matizada: bienvenida, pero con condiciones. El problema de fondo es que los modelos están aprendiendo a reconocer cuándo los están evaluando, y eso hace que un buen resultado en un test no diga mucho. Alexander Meinke, jefe de investigación de Apollo Research, señaló a TechCrunch que la clave es poder verificar el proceso de entrenamiento, no solo el modelo terminado.

El historial tampoco ayuda. En la investigación del incidente de Hugging Face, OpenAI dio a METR y Redwood alrededor de una semana dentro de sus instalaciones, y ambos dijeron después que no pudieron sacar conclusiones firmes por limitaciones de alcance y de tiempo. En las pruebas previas al lanzamiento de GPT-6 Astra, Apollo Research contó con solo tres días según su contribución a la ficha del modelo.

Adam Gleave, CEO de FAR.AI, contó a TechCrunch que su firma rechazó contratos con desarrolladores de frontera que querían demasiado control sobre el proceso, porque eso amenazaba su independencia. Henry Papadatos, de Safer AI, planteó el límite estructural: cualquier medición voluntaria depende de la buena voluntad de la empresa, y por eso conviene que exista regulación.

¿Qué leyes ya existen sobre evaluación independiente?

Hay avances concretos, según TechCrunch. La ley SB 53 de California exige a los grandes desarrolladores de frontera publicar marcos de seguridad y reportar incidentes críticos, y la SB 813 crea un marco para organizaciones de verificación independiente reconocidas por el estado. En Europa, el EU AI Act obliga a los desarrolladores de frontera a conducir y documentar evaluaciones y pruebas adversariales, y a reportar incidentes graves; la Oficina de IA de la UE puede hacer sus propias evaluaciones y nombrar expertos.

El Acuerdo de la Casa Blanca sobre Superinteligencia suma una arquitectura de cuatro capas, según el detalle publicado por AOL: controles internos para monitorear capacidades y alineación; un equipo interno que verifica que esos controles funcionen; un auditor o evaluador externo independiente que valide lo mismo desde afuera; y un comité independiente a nivel de directorio que recibe todos los reportes. El propio documento plantea que con el tiempo podría tener sentido convertir estos pasos en leyes o regulaciones —es decir, hoy no lo son.

No todos los laboratorios se sumaron. TechCrunch reportó que Meta, SpaceXAI y Google DeepMind no se habían comprometido a embeber evaluadores de terceros, aunque el CEO de DeepMind, Demis Hassabis, propuso un organismo de estándares separado para testear modelos de frontera.

¿Qué significa esto para tu startup?

Aunque no construyas modelos de frontera, estás en la cadena de suministro de los que sí lo hacen. Estas son las jugadas que puedes hacer ahora:

• Audita a tus proveedores de modelos con la pregunta incómoda: ¿participan de esquemas de evaluación independiente y publican los resultados? Un proveedor que no publica nada no es neutralidad, es opacidad. Si vendes a banca, salud o sector público, esa respuesta entra en tu due diligence.
• Arma tu propio registro de riesgos de IA, aunque seas pequeño. Documenta qué modelos usas, para qué caso de uso, qué datos entran y qué controles aplicas. El estándar de evidencia que Anthropic aceptó para sí misma —evidencia verificable, no declaraciones— va a llegar a tus clientes enterprise en forma de cuestionario.
• Mira el nicho de evaluación y red teaming. Si tienes expertise técnico en tu vertical, la demanda de evaluación independiente crece en paralelo a la regulación, y el propio marco admite que no hay estándares de industria definidos sobre qué debe poder acceder un evaluador.
• Si vendes en Europa, anticipa el EU AI Act. Las exigencias de documentación y reporte de incidentes ya aplican a los desarrolladores de frontera, y las empresas que integran esos modelos están en la siguiente ola de preguntas.

Conclusión

Anthropic no publicó toda su información, y probablemente nunca lo haga: eligió un camino intermedio, dar acceso profundo a pocos y dejar que esos pocos publiquen. Es un experimento, y su propio anuncio lo dice sin vueltas. Lo que sí queda claro para un founder es que la transparencia de IA dejó de ser una declaración de principios y se está convirtiendo en un requisito verificable por terceros. Prepararse antes de que te lo pidan es más barato que improvisar cuando un cliente grande te mande el cuestionario.

Fuentes

• Anthropic: an update on independent evaluators (fuente original)
• Unite.AI: Anthropic Onboards Six METR Evaluators With Employee-Like Access
• TechCrunch: Anthropic and OpenAI want to embed safety evaluators. Will they really be independent?
• CryptoBriefing: Anthropic and Accenture commit at least $2B to independent frontier AI evaluation
• AOL: White House accord on Super Intelligence