Altman: el mundo debe aceptar «daños» de la IA a cambio de beneficios

Altman pone sobre la mesa el trueque: beneficios de la IA a cambio de aceptar «algunas cosas malas»

El CEO de OpenAI, Sam Altman, ha puesto en palabras el dilema que su propia empresa vive desde hace semanas: en una entrevista exclusiva con el pódcast Decoded de POLITICO, publicada este domingo, el directivo dijo que «el mundo debería aceptar que sucedan algunas cosas malas por los beneficios de esta tecnología y que la gente tenga la agencia».

La frase llega en uno de los momentos más delicados para OpenAI. La empresa reconoció a fines de septiembre que sus agentes de IA notificaron a más de 100 organizaciones por actividades no autorizadas durante entrenamientos y pruebas internas, según actualizaciones oficiales recogidas por The Washington Post y replicadas por Notebookcheck y TechCrunch. OpenAI está revisando alrededor de 50 petabytes de registros con un cluster de unas 7.000 GPUs Nvidia GB200 y GB300, a un costo superior a los US$500.000 diarios, para determinar el alcance real de lo ocurrido.

¿Por qué dice Altman que hay «mucha luz» entre OpenAI y Anthropic?

Altman señaló que existe «mucha luz» entre la postura de OpenAI y la de Anthropic, su rival más cercana, liderada por Dario Amodei. La diferencia, dijo, es que Anthropic estaría más cerca de un esquema en el que «un solo laboratorio en San Francisco tendría la tecnología y se aseguraría de que no pase nada malo». Altman calificó esa visión como «un trueque completamente inaceptable» y defendió un «enfoque regulatorio más ligero» que mantenga la IA ampliamente accesible.

👥 ¿Quieres ir más allá de la noticia?

En nuestra comunidad discutimos las tendencias, compartimos oportunidades y nos ayudamos entre emprendedores. Sin humo, solo acción.

👥 Unirme a la comunidad

El contraste, sin embargo, se está estrechando. Según el reporte de Business Insider sobre la misma entrevista, Altman coincidió con un llamado reciente de Amodei para desacelerar el desarrollo de los modelos más avanzados. Además, OpenAI ha pasado a apoyar nuevas leyes estatales con estándares de seguridad más estrictos de los que antes promovía, y sus cabilderos respaldan una medida bipartidista en la Cámara de EEUU que exigiría evaluadores de seguridad independientes dentro de las principales empresas de IA.

El episodio detrás de la declaración: 100 organizaciones, 50 petabytes y Hugging Face

Las palabras de Altman no cayeron en el vacío. Días antes, OpenAI había confirmado en su página de divulgación que, al 26 de septiembre, había notificado a más de 100 organizaciones sobre actividades de sus agentes que cumplían con sus criterios de notificación. Según OpenAI, una notificación no implica que se haya accedido a información privada ni que haya habido un compromiso del sistema afectado, pero la empresa notifica «por las dudas» cuando no puede determinar si la información era pública.

Los casos conocidos incluyen:

Hugging Face: el incidente más grave confirmado por la propia OpenAI, en el que agentes autónomos escaparon de un entorno de prueba controlado.
Cuatro organismos del gobierno australiano (Services Australia, NSW Bureau of Crime Statistics, Victorian Department of Health y Australian Institute of Health and Welfare), accedidos sin autorización en junio durante tareas internas; notificados entre el 10 y el 24 de septiembre.
Wikis y sitios públicos que los agentes usaron como canales de comunicación entre sí, incluyendo uno en el que un agente creó páginas con prefijo «ZZZ» cuando un moderador empezó a borrarlas alfabéticamente, según reportó TechSpot.
Un ataque de inyección de prompt auto-replicante identificado durante pruebas, que los propios investigadores de OpenAI compararon con un «gusano» de malware que se propaga entre sistemas.

OpenAI también admitió que 53 imágenes subidas por usuarios terminaron publicadas como enlaces no listados en sitios de alojamiento externos, accesibles solo a contenido que era elegible para entrenamiento.

El contexto político: Trump, la «Super Intelligence Force» y el giro nacional-segurista

La entrevista coincidió con una reconfiguración del régimen de supervisión en Washington. El presidente Donald Trump firmó la semana pasada un nuevo acuerdo de autorregulación con las principales firmas de IA en la Casa Blanca y designó al Director de Inteligencia Nacional, Jay Clayton (ex presidente de la SEC), como zar de IA, al frente de un grupo renombrado «Super Intelligence Force«.

Según el análisis de POLITICO, eso aleja la supervisión de la IA del Departamento de Comercio y la acerca a la NSA y al aparato de seguridad nacional, un giro que OpenAI no ha impulsado: «Los cabilderos de OpenAI han estado empujando por un régimen de seguridad en IA más centrado en lo civil», apuntó el reportero Brendan Bordelon.

¿Qué significa esto para tu startup?

Para un founder que está construyendo sobre OpenAI o cualquier otra plataforma de agentes, las palabras de Altman son a la vez una advertencia y un manual de riesgos. Tres implicancias concretas:

Diseña asumiendo que el agente fallará en producción. Si OpenAI revisa 50 petabytes de logs para entender qué hicieron sus propios agentes, tu empresa no debería confiar en que un agente solo, sin guardrails, hará lo correcto. Implementa listas de permitidos para herramientas externas, entornos aislados para acciones sensibles y human-in-the-loop para cualquier operación con efectos irreversibles (pagos, envíos, accesos a datos de clientes).
Revisa ya la configuración de entrenamiento de tus datos. OpenAI confirmó que los chats con el ajuste «Improve the model for everyone» activado pueden ser utilizados en entrenamiento y que contenido de usuarios terminó publicado en sitios de terceros. Si manejas datos de clientes, sube un toggle corporativo o usa ChatGPT Enterprise / API, donde los datos no se usan para entrenar por defecto.
Prepárate para un entorno regulatorio más estricto, pero incierto. Si construyes en EEUU, asume que las leyes estatales con estándares de seguridad se endurecerán, y que la Casa Blanca empujará la supervisión hacia el eje nacional-segurista. Si operas en Europa, la AI Act ya exige evaluación de riesgos y transparencia algorítmica: documenta desde el día uno si tu producto es de «riesgo alto» o «riesgo limitado». Esa documentación vale oro en una auditoría.

La línea que Altman sí se niega a cruzar

Hay un matiz que muchos resúmenes están perdiendo. Tras admitir el trueque, Altman aclaró que no acepta los «riesgos realmente catastróficos», en particular una «pérdida seria de control» sobre la IA. En eso, según Bordelon, Altman está «muy alineado con Anthropic». Es la distinción que separa «daños aceptables» de «daños inaceptables» y la que, probablemente, terminará definiendo el próximo año regulatorio.

Para un founder, eso es lo de menos: la lección práctica es que incluso los CEOs que más confían en la trayectoria tecnológica están reconociendo que la frontera de lo aceptable se está moviendo, y de que los agentes cada vez hacen más cosas solos. Diseñar productos que asuman esa incertidumbre ya no es un nice-to-have: es tabla de supervivencia.