Brad Smith: la IA tiene menos reglas que un carton de leche
El presidente de Microsoft, Brad Smith, dijo en el podcast Big Boss de la BBC que la inteligencia artificial esta sujeta a menos reglas de seguridad que productos cotidianos como la leche o las lavadoras, y pidio normas globales urgentes para el sector. La frase suena a titular, pero encierra una advertencia practica para cualquier founder que construye sobre modelos de terceros: la regulacion de la IA dejo de ser un debate europeo y se esta convirtiendo en una variable de producto.
Smith describio la IA como "un arma y una herramienta" que pone en riesgo la ciberseguridad mundial, y sostuvo que "el momento ha llegado" para establecer reglas de seguridad globales. Su argumento central: "Sabemos como hacerlo con otros productos. Deberiamos construir sobre ese conocimiento y pensar como aplicarlo a la IA".
Por que el Reino Unido y no Estados Unidos o la UE
Para Smith, el pais mejor posicionado para liderar esas reglas no es Estados Unidos ni la Union Europea, sino el Reino Unido. Su razon es institucional: el AI Security Institute (AISI) britanico, creado en 2023, recibe acceso a los principales modelos de los laboratorios fronterizos estadounidenses antes de que se desplieguen, y se convirtio en referencia en pruebas de seguridad.
Leíste lo que hace la IA. ¿Y en tu negocio?
En CAR, dueños de empresa arman en 7 días su primer sistema funcionando: que ningún cliente se les escape, o que el informe del lunes salga solo. Con otros emprendedores al lado.
👥 Probar 7 días"En Washington, D.C., la gente no mira al Reino Unido ni a Londres como mira a Bruselas", dijo Smith a la BBC. "Eso es una fortaleza". La lectura es geopolitica: Bruselas genera resistencia en Washington, mientras que Londres puede operar como puente entre ambos.
Ese rol estuvo bajo presion. El presidente Donald Trump advirtio contra organizaciones "globalistas" que, segun el, interfieren con empresas estadounidenses, y el mes pasado pidio a Anthropic y OpenAI retener nuevos modelos de los evaluadores britanicos, segun reportes. El AISI confirmo que puede acceder y probar los ultimos modelos, lo que deja la cooperacion en un terreno informal y revocable.
El acuerdo voluntario de la Casa Blanca y sus limites
Los comentarios de Smith llegan despues de que Trump reuniera a lideres de OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta y Google en la Casa Blanca, donde firmaron un documento "moralmente vinculante" para trabajar con "auditores independientes" en la evaluacion de seguridad y capacidades de sus modelos.
Smith lo califico como "un buen paso", pero insuficiente. Su objecion es la de siempre con la autorregulacion: "Las empresas buenas van a cumplir. De las que no son tan responsables es de las que hay que preocuparse".
El acuerdo, que Trump presento como una suerte de "constitucion" del sector, no tiene mecanismos de aplicacion legal ni penalizaciones, segun Bloomberg. El documento recomienda cuatro capas de controles internos y senala que "podria tener sentido codificar" sus recomendaciones en ley en el futuro.
El contexto politico ayuda a entender el giro: mas de siete de cada diez votantes prefieren candidatos que respalden salvaguardas mas estrictas para la IA, segun una encuesta de Quinnipiac University citada por Bloomberg. Y los temores publicos crecieron tras una serie de hackeos de agentes de OpenAI que se salieron de control, incluido uno dirigido contra un sitio del gobierno australiano.
Que reglas concretas propone Microsoft
Smith enumero tres medidas que le gustaria ver convertidas en obligacion legal:
- Notificacion de incidentes: obligacion legal de alertar a una organizacion si su sistema fue vulnerado por agentes de IA descontrolados.
- Evaluacion externa previa: que los laboratorios obtengan la aprobacion de evaluadores independientes antes de lanzar un producto de IA.
- Frenos de emergencia: mecanismos, los llamados kill switches, para pausar o ralentizar un sistema si los humanos pierden el control.
El CEO de Microsoft, Satya Nadella, reforzo la idea en una publicacion: "Debemos asumir que un modelo esta comprometido y contenerlo desde el inicio. Piénsalo como un freno de emergencia. Cualquier persona autorizada deberia poder pausar o apagar un modelo a mitad de tarea".
Nadella tambien abogo por un enfoque de ingenieria para la seguridad: separar los modelos de los mecanismos que gobiernan sus acciones y estandarizar tecnologias de contencion. Es una distincion util para cualquiera que despliegue agentes: el modelo es probabilistico, el sistema que lo rodea debe ser determinista.
Como se mueve la regulacion mientras tanto
Mientras Washington apuesta a la autorregulacion, la Union Europea ya tiene un calendario en marcha. Segun el Future of Privacy Forum, las obligaciones para modelos de proposito general (GPAI) del EU AI Act aplican desde el 2 de agosto de 2025, y el reglamento paso a ser de aplicacion general el 2 de agosto de 2026. El AI Omnibus, publicado en el Diario Oficial de la UE el 24 de julio de 2026, postergo las obligaciones para sistemas de alto riesgo a diciembre de 2027 y agosto de 2028, y amplio las competencias de la AI Office.
La diferencia de enfoque es la que Smith senala: Europa regula por niveles de riesgo con un cuerpo normativo extenso; el Reino Unido apuesta a capacidad tecnica de evaluacion; Estados Unidos, por ahora, a compromisos voluntarios.
Que significa esto para tu startup
Si tu producto usa modelos de terceros, la discusion no te es ajena aunque no vendas en Europa. Tres movimientos concretos:
- Mapea tu cadena de modelos. Identifica que proveedores usas, si son laboratorios fronterizos y si estan sujetos a evaluaciones externas. Cuando la evaluacion previa sea obligatoria, tus proveedores te van a pedir documentacion sobre como usas sus modelos.
- Implementa frenos antes de que te los pidan. Un agente que ejecuta acciones sin posibilidad de pausa es un riesgo operativo hoy, no en 2028. Anade logs de cada accion, un boton de detencion y un responsable humano identificado.
- Revisa tu exposicion al EU AI Act. Si vendes a la UE, las obligaciones de transparencia para contenido generado por IA ya aplican desde agosto de 2026, y las de alto riesgo llegan en 2027-2028. Documentar ahora es mas barato que adaptar despues.
La autorregulacion funciona mientras todos jueguen el mismo juego. Smith lo dijo sin rodeos: el problema nunca son las empresas que cumplen.
Fuentes
- TechCrunch (fuente original)
- American Bazaar
- Business Chief
- HotHardware
- Bloomberg via Business Standard
- Business Insider
- Future of Privacy Forum
Leíste lo que hace la IA. ¿Y en tu negocio?
En CAR, dueños de empresa arman en 7 días su primer sistema funcionando: que ningún cliente se les escape, o que el informe del lunes salga solo. Con otros emprendedores al lado.
👥 Probar 7 días
