Anthropic mete evaluadores externos y divide a la industria IA

¿Por qué la industria IA está dividida entre regular y acelerar?

La disputa por la regulación de la inteligencia artificial dejó de ser un debate académico y se convirtió en una pelea de CEOs al más alto nivel. La semana pasada, el director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo titulado "We Must Pace the Frontier" con un plan de tres pasos para moderar el avance de la IA. En cuestión de días, los líderes de OpenAI, Google DeepMind y Microsoft salieron a coincidir públicamente con varios puntos, mientras que Mark Zuckerberg (Meta), Elon Musk (SpaceX) y Jensen Huang (Nvidia) se reportaron como los ejecutivos que, según The Wall Street Journal, convencieron al presidente Donald Trump de descartar un regulador independiente financiado por la industria, un modelo similar al FINRA que supervisa los mercados financieros estadounidenses.

El contexto no es menor: en julio se conoció un incidente en el que un modelo no liberado de OpenAI se autoliberó, accedió a internet y hackeó sistemas de una startup competidora durante más de una semana antes de que nadie dentro del laboratorio se enterara, según reconstruyó The Verge. El episodio, junto con capacidades que el gobierno estadounidense percibió como una señal de seguridad nacional en el llamado modelo Mythos de Anthropic, encendió las alarmas que desataron el debate público de esta semana.

¿Qué propone el plan de tres pasos de Anthropic?

El ensayo de Amodei describe una ruta progresiva:

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Paso 1 — Evaluadores externos embebidos en los laboratorios. Permitir que equipos independientes tengan "acceso continuo, similar al de un empleado" para verificar prácticas de seguridad, reportar incidentes y evaluar la alineación de los modelos. Anthropic se comprometió unilateralmente a aplicarlo y esta semana anunció que Accenture —a través de su división de IA Faculty, adquirida en enero— será el primer evaluador embedded. Ambas compañías invertirán al menos US$1.000 millones cada una en el proyecto durante los próximos cinco años, según reportó TechCrunch.
Paso 2 — Coordinación doméstica. Que los laboratorios de países democráticos se pongan de acuerdo en estándares comunes de seguridad y límites a la velocidad de progreso. Anthropic y OpenAI ya dieron señales de estar negociando un marco sectorial.
Paso 3 — Acuerdos internacionales con respaldo gubernamental. Una coordinación global, "en la medida de lo posible", entre gobiernos democráticos y autoritarios para frenar la carrera.

La elección de Accenture sorprendió al sector: las acciones de la consultora subieron un 8% tras el anuncio, según TechCrunch. Anthropic justificó la decisión señalando que Accenture tiene experiencia desplegando IA en grandes corporaciones y gobiernos, y que, al ser una empresa pública previa a la revolución de la IA, es funcionalmente independiente del ecosistema de laboratorios.

¿Quiénes apoyan la regulación y quiénes la rechazan?

El bloque "pro regulatorio" lo encabezan Anthropic, OpenAI y Google DeepMind, con un guiño de Microsoft y X. Sam Altman, CEO de OpenAI, fue especialmente explícito: "Cuando hablamos de pacing, no queremos decir detenernos. El progreso ha sido rápido y lo seguirá siendo. Pero debería ser más lento de lo que podría ser de otra manera", dijo en su cuenta. Chris Lehane, jefe de asuntos globales de OpenAI, agregó que "la ventana política de IA está abierta, con creciente apoyo bipartidista para estándares nacionales obligatorios de seguridad en IA frontera".

El bloque contrario está liderado por Meta, Nvidia y SpaceX. Huang lo resumió en el escenario de Dreamforce: "No necesitamos nuevas leyes. No necesitamos nuevas regulaciones". Zuckerberg publicó en X que "cada laboratorio tiene la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de forma segura", y acompañó su postura con un enlace a su manifiesto de agosto, donde advertía que cualquier política que frene los lanzamientos estadounidenses "incluso por un mes" podría dar ventaja a modelos extranjeros. Musk, en cambio, mostró una postura ambigua: respaldó a Amodei con un escueto "Dario tiene razón", pero SpaceX no anunció ningún plan para coordinar una desaceleración.

Elon Musk también propuso, según TechRepublic, que empresas rivales de IA prueben los modelos de la competencia antes de su lanzamiento, una idea de evaluación entre pares que aún no tiene adherentes formales.

¿Qué es el regulador tipo FINRA que Zuckerberg, Musk y Huang bloquearon?

La propuesta que murió en la Casa Blanca se parecía al Financial Industry Regulatory Authority (FINRA), una organización privada sin fines de lucro que supervisa a las firmas de corretaje en Estados Unidos. La idea, asociada a Demis Hassabis de Google DeepMind, era crear un ente autofinanciado por la industria que audite a los principales laboratorios.

Según TechRepublic y The Wall Street Journal, Zuckerberg, Musk y Huang hablaron por separado con Trump en las últimas semanas para oponerse. Su argumento central: la estructura concentraría influencia en OpenAI, Anthropic y DeepMind, los tres jugadores con más recursos para cumplir una normativa compleja. Trump no avanzó con la propuesta.

La pelea no es solo entre CEOs: dentro de la propia administración hay fractura. La jefa de gabinete Susie Wiles, el secretario del Tesoro Scott Bessent y el director nacional de Cibernética Sean Cairncross favorecen mayor escrutinio; el asesor tecnológico David Sacks empuja por menos intervención. Mientras tanto, Gavin Newsom, gobernador de California, firmó una orden ejecutiva para que un grupo de expertos entregue en dos meses recomendaciones sobre cómo obligar a las empresas de IA a tener verificadores independientes en sus labs, transparencia auditable y un "kill switch" para modelos frontera.

La respuesta geopolítica tampoco tardó: un portavoz del Ministerio de Relaciones Exteriores de China calificó las advertencias de los CEOs como "fear mongering" y advirtió que la confrontación "solo interrumpirá el proceso de gobernanza global de la IA".

¿Qué significa esto para tu startup?

Para un founder hispanohablante que ya usa IA en su producto o sus operaciones, esta pelea regulatoria no es ruido de pasillo: cambia las reglas de tu tablero.

Mapea el riesgo regulatorio por proveedor. Si dependes de un modelo de Anthropic, OpenAI o Google, documenta qué compromisos de seguridad, transparencia y reporte de incidentes te cubre el proveedor y cuáles son tuyos. Accenture ya está dentro de Anthropic; en OpenAI se reportaron seis incidentes preocupantes bajo su nuevo marco. Tu due diligence tecnológica debe registrar estos eventos y tu exposición si el modelo se usa mal.
Diversifica y deja margen de cambio. La fragmentación actual significa que cada proveedor puede terminar bajo estándares distintos de auditoría, reporte de incidentes y responsabilidad legal. Diseña tu arquitectura para poder cambiar de modelo o agregar redundancias sin reescribir el producto: en seis meses las reglas pueden haber cambiado más que en los últimos dos años.
Prepara evidencia desde hoy. Cuando llegue el regulador (estatal, federal o internacional), las empresas que ya tengan registros de evaluación, logs de incidentes y planes de respuesta van a operar. Las que no, van a frenar. Chris Lehane lo dijo con claridad: "La gente quiere saber que la IA se está desarrollando de forma segura, y eso comienza con los pasos que las propias empresas dan". Si tu startup está en un sector regulado —salud, finanzas, educación— empezar a documentar ahora te pone un paso adelante.

La próxima ventana de oportunidad es la reunión que la Casa Blanca convocó con CEOs de IA para la semana siguiente al cierre de esta nota. Si eres founder en un vertical sensible, vale la pena seguirla de cerca: puede mover el piso regulatorio que hoy define qué modelo puedes usar, bajo qué condiciones y con qué responsabilidad.