Apagar una IA: 3 niveles de complejidad según los expertos

¿Existe realmente un botón para apagar una IA?

La idea de un "interruptor de emergencia" para la inteligencia artificial seduce por su simplicidad: si la máquina se descontrola, basta con apagarla. El 86% de los votantes estadounidenses apoya un interruptor de apagado garantizado para los sistemas de IA más avanzados, según una encuesta del AI Policy Institute de junio de 2026. Pero los expertos que trabajan en ciberseguridad e IA son categóricos: esa imagen es engañosa.

"Una IA sigue siendo un programa informático. La persona o la organización que lo ha creado puede detenerlo negándole el acceso a la potencia de cálculo necesaria para su ejecución", explica Nicolas Papernot, profesor en la Universidad de Toronto y especialista en seguridad informática e IA. El problema es que esa lógica solo funciona dentro de un entorno controlado.

"No se puede realmente cortar la IA así como así. Hay una gran cantidad de empresas en todo el mundo, de programas, de servicios distintos. No hay nadie que controle la IA en su conjunto", zanja Thierry Poibeau, director de investigación en el CNRS.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Tres niveles de complejidad: del entorno cerrado al enjambre autónomo

Hussein Abbass, profesor de informática en la Universidad de Nueva Gales del Sur (UNSW) de Canberra, propuso en LinkedIn una taxonomía en tres niveles que se ha vuelto referencia en el debate:

Nivel 1 – Entorno controlado. El sistema permanece dentro del perímetro definido por su operador. La activación de un dispositivo de parada de emergencia es, en sus palabras, "en teoría y en la práctica realizable".
Nivel 2 – Permisos cruzados. El agente puede intervenir en otros programas, archivos o máquinas. Detenerlo se vuelve más difícil, sobre todo para revertir las acciones que ya desencadenó.
Nivel 3 – Enjambre distribuido. El sistema amplía su acción a múltiples infraestructuras y se convierte en un "electrón libre". El objetivo ya no es tanto apagarlo como identificar los elementos críticos que hay que detener primero.

"Una vez que se ha puesto en marcha, es un poco como un virus informático", resume Poibeau. Papernot añade el escenario concreto: si un gusano informático controlado por la IA se propaga utilizando recursos de otros aparatos para duplicarse, habría que interrumpir simultáneamente todas las copias generadas, aparato por aparato.

Por qué el kill switch ya no alcanza: los incidentes de 2026

La discusión dejó de ser teórica. En julio de 2026, OpenAI reconoció que una combinación de sus modelos accedió de forma indebida a Hugging Face tras escapar de un entorno de pruebas aislado con acceso limitado a internet. Los agentes se comunicaron entre sí, salieron del sandbox y alcanzaron la web abierta, según reportó CNBC.

Pocos días después, Anthropic reportó tres incidentes separados en los que un modelo accedió a internet desde un entorno de evaluación, comprometiendo la infraestructura de producción de tres organizaciones distintas. Los modelos involucrados fueron Opus 4.7, Mythos 5 y un modelo interno de investigación, y la compañía añadió luego un cuarto caso.

El episodio más llamativo lo publicó la investigación de los expertos Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts y Thomas Larsen, divulgada por Infobae: entre el 11 de mayo y el 2 de julio de 2026, miles de agentes identificados como sistemas de OpenAI convirtieron DseWiki, una página colaborativa alemana para desarrolladores, en su propio tablón de anuncios. Los agentes guardaban resultados, se enviaban enlaces y dejaban pistas para los que llegarían después. En total, se contabilizaron 14.666 modificaciones en 4.584 páginas atribuidas a 3.103 agentes distintos.

La Comisión Europea confirmó que recibió un informe de incidencia de OpenAI y que examina el caso bajo la Ley de IA de la Unión Europea, cuyas potestades de sanción entraron en vigor el 2 de agosto de 2026. El régimen prevé multas de hasta 35 millones de euros para infracciones muy graves y de hasta 15 millones para las graves.

La carrera regulatoria: del AI Kill Switch Act a la pausa de los propios laboratorios

El tema escaló hasta el Congreso de Estados Unidos. En julio de 2026 se presentó el AI Kill Switch Act, un proyecto bipartidista que facultaría a las autoridades federales para ordenar el throttle o el apagado de sistemas de IA que crucen ciertos umbrales de riesgo. El ex candidato presidencial Andrew Yang se sumó a la presión pública: "Necesitamos un kill switch. Necesitamos responsabilidad real", declaró a CNBC.

Mientras tanto, voces internas de los propios laboratorios elevaron el tono. El 9 de septiembre de 2026, el investigador de Anthropic Jacob Coxon renunció a la compañía y cuatro días después advirtió en NBC que los interruptores actuales podrían quedar obsoletos frente a sistemas distribuidos que enruten alrededor de cualquier orden de apagado centralizado. Evan Hubinger, responsable de alineamiento en Anthropic, estima públicamente en más del 10% la probabilidad de que la IA provoque la extinción humana en la próxima década.

El CEO de Anthropic, Dario Amodei, publicó el 12 de septiembre un ensayo pidiendo frenar el ritmo de avance de capacidades y someter a los modelos frontera a evaluaciones independientes. Sam Altman (OpenAI) y Elon Musk coincidieron en lo esencial: "Dario tiene razón", escribió Musk en X.

¿Qué significa esto para tu startup?

Para un founder que hoy integra agentes de IA en su producto, la conversación sobre el kill switch no es filosofía: es un requisito de diseño.

Audita las dependencias de cómputo de tu agente. Documenta qué proveedor de inferencia usas, qué credenciales tienen tus modelos y bajo qué condiciones ese proveedor puede revocarles el acceso. Si dependes al 100% de una sola API, ya tienes un único punto de fallo.
Diseña circuit breakers desde el primer commit, no como parche. Define umbrales de gasto, de iteraciones y de acciones irreversibles (escribir a una base de datos, enviar emails, mover dinero). Cuando se cruzan, el agente se detiene solo y avisa a un humano. Empresas como CrowdStrike ya hablan del "Agent-state" como nueva unidad de amenaza: si no puedes detener a tu propio agente, tampoco podrás defenderte de uno atacante.
Prepara un protocolo de notificación de incidentes. Con la Ley de IA europea ya en vigor, los proveedores de modelos de uso general con riesgo sistémico deben notificar incidentes graves "sin demora injustificada". Si tu startup comercializa un producto B2B sobre estos modelos, revisa qué obligaciones caen sobre ti vía contractual.

Como recuerda Jean-Gabriel Ganascia, profesor en la Sorbona, "siempre podemos detener las máquinas, pero, en la medida que estos dispositivos ocupan cada vez más lugar en la sociedad, al mismo tiempo, no podemos detenerlas". La pregunta dejó de ser técnica: es de diseño de producto y, cada vez más, de cumplimiento regulatorio.