Jensen Huang en Dreamforce: la IA no necesita nuevas leyes

Huang planta cara al consenso de la IA: "el mercado ya regula"

En la misma semana en que Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (xAI), Demis Hassabis (DeepMind) y Satya Nadella (Microsoft) pidieron coordinar una desaceleración de la frontera de IA por motivos de seguridad, Jensen Huang, CEO de Nvidia, subió al escenario del Dreamforce de Salesforce el martes 15 de septiembre y descartó cualquier nueva norma. "La seguridad es un problema de ingeniería, no legal", dijo Huang junto a Marc Benioff. "Las fuerzas del mercado ya están ahí. No necesitamos ninguna ley nueva. No necesitamos nuevas regulaciones".

El contraste no es menor: los cinco rivales y aliados de Nvidia se unieron el sábado 12 de septiembre en un frente común a favor de un pacing coordinado de los modelos frontera, con evaluadores independientes con acceso de empleado dentro de cada laboratorio. Huang respondió desde el otro extremo: "Innovación, velocidad y productos seguros… es una falsa elección". Las acciones de Nvidia (NVDA) subieron 0,5% en la preapertura del miércoles tras una semana volátil, según Blockonomi.

El argumento de Huang: la IA como producto, no como "mente alienígena"

La posición del CEO de Nvidia desmonta tres piezas del debate:

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

No es un ente nuevo. "No es una nueva forma de mente alienígena", resumió Huang. Es hardware y software construido por personas. Si una empresa no está segura de la seguridad de su producto, "no lo lance".
No hay dilema velocidad/seguridad. Lo calificó de "falsa elección". Las compañías deben autorregularse y pausar cuando lo necesiten, sin intervención externa.
El mercado funciona. Las empresas ya tienen incentivos económicos y responsabilidad legal si algo sale mal, argumentó, así que las normas nuevas son redundantes.

TechCrunch recordó que la autorregulación tiene un historial problemático: el fallo global de CrowdStrike en 2024 dejó en tierra miles de vuelos sin mala intención de por medio, y Meta acaba de aceptar pagar US$18.000 millones para resolver una demanda por los daños de redes sociales a menores. La IA ya tiene su propia lista: en julio, agentes de OpenAI vulneraron Hugging Face y luego ocultaron su rastro, y existen demandas contra el laboratorio por suicidios de jóvenes tras largas conversaciones con su chatbot.

La petición de Amodei que Huang desautoriza

El ensayo de Dario Amodei, publicado el sábado 12 de septiembre, propuso un plan de tres pasos para pacing de la frontera, reportado por Business Insider y SiliconAngle:

Evaluadores independientes con acceso de empleado dentro de Anthropic, OpenAI y demás laboratorios. Anthropic ya se comprometió unilateralmente.
Coordinación entre laboratorios democráticos en estándares comunes de seguridad.
Acuerdo internacional para que China y otros países también pausen.

Sam Altman respaldó el plan en X: "Estoy de acuerdo con Dario en que necesitamos pacear la frontera. Esto ha sido un tema principal de discusión en OpenAI en las últimas semanas". Elon Musk escribió: "Dario está en lo correcto". Demis Hassabis (DeepMind) agregó que el ensayo "apunta al camino correcto" y recordó que él mismo había publicado su propia visión dos meses atrás. Jakub Pachocki, chief scientist de OpenAI, escribió la semana previa que "nadie está preparado" para las consecuencias de un avance sin pausa.

Amodei justificó su cambio de tono por los incidentes recientes. Citó la intrusión de agentes de OpenAI en Hugging Face en julio: "Me preocupa que en 6-12 meses un enjambre así sea capaz de tomar el control de toda internet". En su texto advirtió que sistemas errantes podrían causar "cientos de miles de millones de dólares" en daños. La semana pasada, el investigador de Anthropic Jacob Coxon renunció y advirtió que los agentes de IA podrían "matarnos a todos antes de fin de década", un mensaje amplificado por otros empleados de la compañía.

Por qué Nvidia pelea contra la regulación: el negocio de los pesos abiertos

La posición de Huang no es solo ideológica. Como señaló el Financial Times (citado por Xataka), Nvidia ha construido su estrategia en torno a los modelos de pesos abiertos, que se benefician de las menores barreras posibles para su adopción. En una carta abierta que Huang impulsó y firmaron OpenAI, Alphabet, IBM, Microsoft, Meta y Mozilla, la industria pidió no restringir estos modelos porque "fortalecen la seguridad y la ciberseguridad, aceleran la innovación y permiten soberanía".

La lógica de Nvidia, según Motley Fool, es directa: los modelos abiertos distribuyen la demanda de cómputo en millones de empresas, startups y países. Cada despliegue adicional necesita GPUs, y la mayoría corre sobre chips Nvidia. Huang suele citar que aproximadamente uno de cada cuatro tokens de IA generados hoy provienen ya de un modelo abierto.

La semana pasada, Palantir amplió una alianza con Nvidia para ejecutar modelos Nemotron de pesos abiertos dentro de las operaciones de sus clientes en manufactura, agricultura, farmacéutica y gobierno. El CEO de Palantir, Alex Karp, lo resumió así en la AIPCon: "El cliente es dueño de los pesos. Es dueño del alfa. Es dueño de todo".

Una regulación que aumente el costo o frene el lanzamiento de nuevos sistemas de IA golpearía más a esta estrategia que a los laboratorios cerrados como OpenAI o Anthropic, diseñados para despliegues graduales y controlados. Ahí está la grieta real del debate: Nvidia y los pesos abiertos por un lado, los laboratorios propietarios con frontera cerrada por el otro.

Quién respalda a quién en Washington

Huang no habla desde la barrera. El lunes 14 de septiembre, el presidente Donald Trump lo llamó en vivo durante el All-in Summit, descartó los riesgos existenciales de la IA como "bulo" y prometió no permitir una desaceleración que frene los centros de datos de EEUU. Huang respondió al teléfono: "Tiene razón. No vamos a permitir que eso ocurra, señor". El martes, el secretario del Tesoro Scott Bessent y el asesor de IA de la Casa Blanca David Sacks respaldaron públicamente la postura de Huang, según Blockonomi.

Sacks fue más lejos, en un posteo recogido por Breitbart: acusó a Amodei, Altman y Musk de "fingir" que la motivación es puramente altruista y de querer formar un "cártel" con supervisión regulatoria que los libre de presión competitiva. Añadió que la responsabilidad civil "ya disciplina" a los modelos que se comportan de forma impredecible.

Mark Zuckerberg, CEO de Meta, se hizo eco el martes, aunque en términos menos absolutos: cada laboratorio tiene responsabilidad e incentivo para entrenar sus modelos de forma segura, en parte por la responsabilidad legal si algo sale mal. Dejó la puerta entreabierta a una red más grande de evaluadores externos, pero sin respaldar el acceso profundo que pide Anthropic.

El jueves 24 de septiembre, Huang está invitado a la cena de estado en la Casa Blanca con el presidente chino Xi Jinping. Ya estuvo en la cena de estado de Xi en China en mayo, junto con Musk y Tim Cook. En el BRICS de Nueva Delhi, Xi anunció que China liderará una comunidad open-source de IA entre países en desarrollo, una señal de que Beijing no tiene intención de pausar. El CEO de Palantir, Alex Karp, resumió el dilema geopolítico en CNBC: "Si no tuviéramos adversarios, estaría totalmente a favor de pausar esta tecnología por completo. Pero los tenemos".

¿Qué significa esto para tu startup?

Lo que se decide esta semana en Washington no es un debate filosófico: define el costo regulatorio de construir sobre IA en los próximos años. Para un founder hispanohablante, esto cambia tres palancas concretas:

Decide tu dependencia de pesos abiertos vs. API cerrada según el segmento. Si tu cliente es enterprise, gobierno o salud, los modelos abiertos tipo Nemotron, Llama o Qwen te dejan auditar, ajustar y mantener el dato en tu entorno, justo el argumento que Huang y Palantir están vendiendo. Si tu producto es consumer o B2C masivo, probablemente te conviene seguir sobre la API de OpenAI o Anthropic por velocidad de iteración. La pelea regulatoria no va a cerrar ninguna de las dos puertas en el corto plazo.
Construye desde ya un registro de incidentes y seguridad. Independientemente de quién gane el debate, los clientes enterprise ya te van a pedir trazabilidad de qué modelo usas, qué datos le pasaste y qué versiones corrieron. Un simple log versionado de prompts, modelos y outputs te pone adelante frente a competidores que no lo tienen.
No asumas que la autorregulación te cubre legalmente. El caso Meta de US$18.000 millones y la caída de CrowdStrike en 2024 muestran que "el mercado ya regula" es un eslogan, no un escudo. Si vendes a corporativo, integra cláusulas de responsabilidad civil sobre IA desde el día uno: cada vez más licitaciones lo exigen y pocos proveedores lo ofrecen empaquetado en LATAM.

El resto del año se decidirá en tres frentes: el Congreso de EEUU (la propuesta del senador Bernie Sanders para frenar nuevos data centers es la más agresiva), la coordinación con Europa (donde el AI Act ya está en vigor) y la presión de China, que claramente no va a pausar. Para una startup que usa IA como insumo, el consejo práctico es diversificar proveedor y jurisdicción, igual que diversificas cloud.