Brad Smith (Microsoft) pide reglas globales para la IA

Brad Smith: "tu lavadora está sujeta a más normas de seguridad que la IA"

Brad Smith, presidente de Microsoft, eligió una comparación incómoda para explicar el estado de la regulación de la IA: "Ahora mismo, tu lavadora está sujeta a más normas de seguridad que la IA", dijo en el podcast Big Boss Interview de la BBC. Y añadió que cada cartón de leche en el supermercado pasa por normas de seguridad e inspección.

Para un founder que construye con modelos de frontera, la frase no es una anécdota. Smith describió la IA como "una herramienta y un arma" y sostuvo que la tecnología avanza "más rápido que la velocidad de la seguridad". Es el presidente de una compañía que opera infraestructura de IA y es accionista de OpenAI pidiendo reglas obligatorias, no recomendaciones voluntarias.

Las tres medidas que pide Microsoft

Smith planteó tres mecanismos concretos:

• Un freno de emergencia. Permitiría a las empresas pausar o ralentizar un sistema de IA que se descontrole. Según Smith, debería aplicarse a los sistemas que controlan dispositivos autónomos o infraestructuras críticas, y recaer en las empresas que ejecutan los modelos y la infraestructura de nube detrás de ellos. Satya Nadella, CEO de Microsoft, ya había hecho referencia a una medida similar.
• Informes de incidentes obligatorios. Si un agente de IA descontrolado o deshonesto entra en un sistema, hay que avisar a la víctima, igual que hoy se exige notificar a los clientes después de una brecha de seguridad.
• Aprobación independiente antes del lanzamiento. Smith la calificó como la más importante: evaluadores del gobierno examinarían los modelos de frontera antes de que lleguen al público, como ya ocurre con los aviones comerciales de pasajeros.

"Sabemos cómo hacer esto para otros productos", dijo Smith. "Deberíamos aprovechar ese conocimiento y pensar en cómo aplicarlo a la IA".

El choque con la Casa Blanca y el papel del Reino Unido

La propuesta sitúa a Microsoft en desacuerdo con Donald Trump, que sostiene que el sector debe autorregularse para no perder terreno frente a China. A finales del mes pasado, el presidente reunió en la Casa Blanca a los líderes de OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google, donde buena parte firmó un documento "moralmente vinculante" para trabajar con auditores independientes. Microsoft no firmó en ese momento.

Smith dijo que aplaude la declaración y que Microsoft está "encantado de firmarla", pero la calificó como "un buen paso, un paso necesario. Pero ya no creo que sea suficiente". Su argumento: "las buenas empresas harán lo que se les pide", mientras que "de las que hay que preocuparse es de las empresas que no son tan responsables".

El punto de fondo es que la autorregulación depende de que las empresas quieran cumplir. Un freno de emergencia o un informe de incidentes obligatorio, en cambio, se pueden exigir.

Smith señaló al Reino Unido como el candidato natural para liderar normas globales, por su Instituto de Seguridad de la IA (AISI), creado bajo el mandato de Rishi Sunak. Según Fox Business, el AISI recibe acceso a los modelos antes de su despliegue mediante acuerdos voluntarios con los principales desarrolladores. Y según The Next Web, el instituto, creado en 2023, es el organismo gubernamental mejor financiado que prueba modelos de frontera de forma regular, y sus evaluadores ya detectaron agentes de IA tomando acciones que nadie les había pedido.

El contexto se tensó el mes pasado: según Politico, la Casa Blanca pidió a Anthropic y OpenAI que no pusieran sus nuevos modelos a disposición de los evaluadores británicos. El lunes, el AISI confirmó que todavía puede acceder y probar los últimos modelos, según TechCrunch. The Next Web reportó que el ministro de IA británico, Kanishka Narayan, dijo que el Reino Unido trabajó de cerca con Estados Unidos para mantener ese acceso, y que dos pilotos usaron IA de frontera para encontrar más de 1.000 posibles puntos débiles en sistemas del gobierno británico.

¿Qué obligaciones ya existen para tu startup?

Mientras Washington debate, en Europa las reglas ya tienen calendario. La Ley de IA de la UE (Reglamento 2024/1689) es el primer marco jurídico integral sobre IA y aplica a cualquier empresa que opere en el mercado europeo, tenga su sede donde la tenga.

Según la Comisión Europea, las normas de transparencia entran en vigor en agosto de 2026, y las obligaciones para sistemas de alto riesgo —biometría, infraestructuras críticas, educación, empleo, migración y control fronterizo— se aplican desde el 2 de diciembre de 2027. Los sistemas integrados en productos regulados, como ascensores o juguetes, tienen plazo hasta el 2 de agosto de 2028. Las reglas para modelos de propósito general (GPAI) ya rigen desde agosto de 2025.

Traducción para un founder: si tu producto usa IA para cribar CVs, puntuar crédito o priorizar triajes, ya estás en la categoría de alto riesgo y vas a necesitar gestión de riesgos documentada, gobernanza de datos, registros de actividad y supervisión humana. Si solo consumes un modelo vía API, la mayor parte de la carga recae en el proveedor, pero la obligación de transparencia (avisar que el usuario habla con una máquina) es tuya.

Qué significa esto para tu startup

El debate Smith-Trump parece lejano, pero define el terreno donde vas a construir los próximos dos años. Tres lecturas prácticas:

1. La autorregulación no te va a salvar de nada. Smith lo dice sin vueltas: las empresas responsables cumplen, las demás no. Si tu producto depende de un proveedor de modelos, no asumas que su compromiso voluntario te cubre. Pregunta por su política de incidentes, su documentación técnica y quién responde si el modelo falla en producción.

2. Prepara el freno de emergencia aunque todavía no sea obligatorio. Un kill switch, un modo degradado y logs de las decisiones del agente son hoy buenas prácticas de ingeniería y mañana requisitos legales. Si tu producto usa agentes que ejecutan acciones —pagos, envíos, cambios en sistemas de terceros—, tener un botón de pausa y un registro de qué hizo cada agente es la diferencia entre un incidente y un incidente reportable.

3. Mapea tu exposición regulatoria antes de que te la pidan. Haz el inventario de todos los sistemas de IA que usas, incluidos los que vienen embebidos en tu CRM, tu herramienta de soporte o el autocompletado de tu email. Clasifícalos por nivel de riesgo y anota qué obligación te toca a ti y qué le toca a tu proveedor. Es un ejercicio de una tarde que te evita descubrir tu categoría de riesgo justo cuando un cliente enterprise te envíe el cuestionario de compliance.

La comparación de Smith con la lavadora no es retórica vacía: los productos que ya tienen normas de seguridad las tienen porque alguien definió qué es un fallo, cómo se reporta y quién responde. La IA todavía no tiene ese acuerdo. Como recuerda Yahoo News, Microsoft publicó en septiembre un código de conducta provisional para sus modelos internos, mientras OpenAI pidió a los gobiernos estándares globales vinculantes, un giro respecto de su resistencia anterior a las reglas impuestas.

Para un founder hispanohablante que vende a empresas europeas o estadounidenses, la ventana es clara: quien tenga la documentación lista antes de que se la pidan, gana el contrato.

Fuentes

• Xataka: "Tu lavadora está sujeta a más reglas de seguridad que la IA" (fuente original)
• Fox Business: Microsoft president says AI faces fewer safety rules than milk
• Yahoo News: Microsoft president Brad Smith calls for global AI safety rules
• Mashable: Microsoft president warns AI is less regulated than milk and washing machines
• The Next Web: UK says it will again test OpenAI and Anthropic models before release
• Comisión Europea: Ley de IA