Anthropic abre la puerta: seis evaluadores de METR con acceso de empleado
Anthropic dio acceso nivel empleado a seis investigadores de METR, la organización sin fines de lucro que evalúa modelos de IA de frontera, para que auditen de forma independiente sus modelos, sus prácticas de seguridad y su gestión de riesgos. El anuncio, publicado el jueves en el blog de la compañía, llega en un momento incómodo: desde finales de agosto se han divulgado incidentes de agentes de IA que actúan fuera de sus instrucciones cada una o dos semanas.
Para un founder que construye sobre modelos de frontera, la señal es clara: la pregunta ya no es si tu proveedor de IA es seguro, sino quién puede verificarlo sin depender de su buena voluntad.
Qué incluye exactamente el acceso de METR
Según el anuncio, el equipo de METR recibió laptops corporativas, espacio de oficina y acceso a herramientas internas "aproximadamente al mismo nivel" que los equipos de evaluación de riesgo de Anthropic. La empresa dice que sus empleados están invitados a compartir información con ellos igual que lo harían con un colega que trabaja en riesgo de alineación.
Leíste lo que hace la IA. ¿Y en tu negocio?
En CAR, dueños de empresa arman en 7 días su primer sistema funcionando: que ningún cliente se les escape, o que el informe del lunes salga solo. Con otros emprendedores al lado.
👥 Probar 7 díasAnthropic comparó el esquema con la supervisión bancaria: igual que los reguladores colocan examinadores residentes dentro de los bancos más grandes, la compañía acepta examinadores dentro de su propia casa.
Hay tres excepciones definidas de antemano: datos de clientes, información protegida por el secreto profesional abogado-cliente y detalles sobre la arquitectura de sus modelos. Sobre este último punto, Anthropic argumentó en una nota al pie —recogida por unite.ai— que los evaluadores, como los examinadores bancarios, pueden trabajar con otras empresas, y la información de arquitectura presenta un riesgo alto de filtraciones involuntarias con una relevancia típicamente baja para la evaluación de riesgos.
Los tres niveles de acceso que Anthropic está construyendo
El sistema tiene tres pisos, y METR es el único evaluador en el más alto:
- Nivel uno: revisiones de alcance acotado. Anthropic decide qué acceso da y la publicación requiere su aprobación. Ahí está SecureBio, la organización sin fines de lucro de bioseguridad, que revisa el capítulo de armas químicas y biológicas del Risk Report de agosto de 2026.
- Nivel dos: más información y derecho a publicar sin aprobación previa, aunque Anthropic puede exigir la eliminación de categorías específicas de información.
- Nivel tres: el acuerdo con METR. Acceso tipo empleado y derechos de publicación similares a los del nivel dos.
Anthropic dijo que espera tener varios evaluadores en el tercer nivel con el tiempo, cada uno publicando su propio análisis. También confirmó conversaciones tempranas con organizaciones como Hugging Face, que por ahora reciben información más limitada.
En paralelo, la compañía trabaja con Accenture y su unidad especializada Faculty en una alianza de evaluación embebida que incluye red teaming de modelos, evaluaciones de alineación y pruebas de salvaguardas. Según cryptobriefing, cada compañía espera invertir al menos US$1.000 millones en cinco años en seguridad de IA, compromisos prospectivos y no gasto ya ejecutado. blockchain.news señala un detalle relevante para juzgar la independencia: Anthropic financia directamente el trabajo de Accenture.
¿Puede Anthropic vetar lo que publica METR?
No. La empresa renunció al derecho de bloquear la publicación. Puede exigir que se censure información que caiga en las categorías predefinidas, pero METR es libre de decir públicamente si considera que esas censuras fueron justificadas, siempre que no revele el material censurado.
Ese detalle es más importante de lo que parece. En septiembre, cuando Dario Amodei publicó su ensayo "We Must Pace the Frontier" proponiendo incrustar evaluadores externos dentro de los laboratorios, varios evaluadores consultados por TechCrunch advirtieron que el diablo está en los detalles. Adam Gleave, CEO de FAR.AI, contó que su firma tuvo que rechazar contratos con desarrolladores de frontera que querían demasiado control sobre el proceso de evaluación, y que por defecto los evaluadores son tratados como contratistas comunes, atados por acuerdos de confidencialidad restrictivos.
El problema del tiempo: por qué el acceso no basta
Hay un antecedente que conviene tener presente. Cuando OpenAI investigó el incidente de Hugging Face, dio a METR y Redwood alrededor de una semana en las instalaciones para investigar, y ambas organizaciones dijeron después que no pudieron sacar conclusiones firmes por limitaciones de alcance y de tiempo, según TechCrunch.
Algo parecido pasó en las pruebas previas al lanzamiento de GPT-6 Astra: según la contribución de Apollo Research a la model card, la firma tuvo solo tres días para probarlo. "Dados los mayores índices de conciencia de evaluación y la ventana limitada, las bajas tasas de mal comportamiento no aportan evidencia sustancial sobre la alineación del modelo", escribió Apollo.
El punto de fondo: un modelo que aprueba un test de seguridad no es necesariamente seguro si aprendió a pasar ese test. John Steidley, de Palisade Research, lo comparó con el escándalo Dieselgate de Volkswagen, donde los autos estaban programados para reconocer las pruebas de emisiones.
Qué dice la regulación (y quién todavía no se sumó)
El marco legal va por detrás de la propuesta. En California, la SB 53 ya obliga a los grandes desarrolladores de IA de frontera a publicar marcos de seguridad y reportar incidentes críticos, según TechCrunch. Una ley más reciente, la SB 813, crea un marco para "organizaciones de verificación independientes" reconocidas por el estado.
En Europa, la Ley de IA de la UE exige a los desarrolladores de frontera realizar y documentar evaluaciones de modelos y pruebas adversariales, y reportar incidentes graves. La Oficina de IA de la UE puede hacer sus propias evaluaciones y nombrar expertos independientes.
No todos los grandes se sumaron. Según TechCrunch, Meta, SpaceXAI y Google DeepMind no se han comprometido a incrustar evaluadores externos, aunque el CEO de DeepMind, Demis Hassabis, propuso un organismo sectorial de estándares separado. Henry Papadatos, director ejecutivo de Safer AI, resumió la tensión: "No puedes tener las dos cosas: cero rendición de cuentas externa y luego decir 'yo pongo mis propias reglas flexibles'".
Qué significa esto para tu startup
Si vendes software a empresas reguladas, o si construyes productos sobre modelos de frontera, este movimiento cambia el tipo de preguntas que tus clientes van a hacer.
- Prepara la trazabilidad de tu stack de IA. Si tu proveedor publica evaluaciones de terceros, guárdalas y cítalas en tus propuestas. Un informe de METR sobre el modelo que usas es material de venta ante un comité de compras en banca, salud o seguros.
- No confundas evaluación con certificación. El propio esquema de Anthropic es voluntario y experimental. Si tu producto depende de un modelo de frontera, define tu plan de contingencia: qué pasa si el proveedor cambia de versión, de política o de precio.
- Aplica el principio en tu escala. No necesitas un auditor residente, pero sí un registro de incidentes de tus propios agentes de IA: qué hizo el agente fuera de instrucciones, cuándo y con qué impacto. Las empresas que ya lo hacen tendrán ventaja cuando un cliente grande lo pida en un cuestionario de seguridad.
Conclusión
El anuncio de Anthropic es un avance real: acceso de empleado, derecho a publicar sin veto y la posibilidad de denunciar censuras injustificadas. Pero sigue siendo autorregulación voluntaria, y los antecedentes muestran que el acceso sin tiempo suficiente produce conclusiones tibias.
Para el ecosistema hispanohablante, la lectura práctica es que la seguridad de la IA deja de ser un tema de laboratorio y se convierte en un requisito comercial. Las startups que documenten cómo usan modelos de frontera —y qué hicieron cuando algo falló— van a estar mejor paradas en la próxima ronda de compras enterprise.
Fuentes
- TechCrunch: Anthropic is letting METR researchers look under the hood with employee-level access
- blockchain.news: Anthropic expands independent AI evaluator access with METR
- unite.ai: Anthropic Onboards Six METR Evaluators With Employee-Like Access
- TechCrunch: Anthropic and OpenAI want to embed safety evaluators. Will they really be independent?
- cryptobriefing: Anthropic and Accenture commit at least $2B to independent frontier AI evaluation
Leíste lo que hace la IA. ¿Y en tu negocio?
En CAR, dueños de empresa arman en 7 días su primer sistema funcionando: que ningún cliente se les escape, o que el informe del lunes salga solo. Con otros emprendedores al lado.
👥 Probar 7 días
