Bill Gates: prepárate para 20 años de disrupción de IA

Bill Gates: la IA es «el arma más peligrosa de todos los tiempos»

Bill Gates no se considera un «doomer». Pero el mensaje que deja en la entrevista publicada por The Verge este 22 de octubre suena igual de duro que el de los más pesimistas: hay que prepararse para unos 20 años de disrupción y ese periodo podría ser tan doloroso que parta a la sociedad en dos, entre quienes se sienten cómodos viviendo cerca de la frontera tecnológica y quienes la rechazan.

El cofundador y expresidente de Microsoft y presidente de la Gates Foundation viene de un giro retórico claro. En un ensayo publicado a finales de agosto, titulado «The turbulent AI era is here. The choices we make now are critical», escribió que «incluso en las mejores circunstancias, la transición a esta nueva era de IA será uno de los tiempos más turbulentos de la historia humana». Desde entonces ha dicho que la IA es «la cosa más peligrosa a la que los humanos se han acercado» y que «hace que las armas nucleares parezcan nada».

Para un founder, la pregunta relevante no es si Gates tiene razón en el diagnóstico filosófico, sino qué cambia en el terreno operativo. Y cambia bastante: el marco regulatorio, los costos de cumplimiento y hasta el discurso de venta de tu producto están en movimiento.

¿Cuál es el riesgo real que señala Gates?

La tesis central de la entrevista es que el peligro no es «un modelo contra otro modelo». El riesgo inmediato está en los modelos sin salvaguardas, los que alguien puede liberar de sus restricciones y usar para atacar infraestructura crítica. «Para alguien que hace un ciberataque con el modelo, no se trata de elegir un modelo. No importa qué modelo elija», dice.

Gates distingue dos capas. En el corto plazo, el problema son los modelos abiertos sin controles: ahí, sostiene, los ciberataques ya están disponibles hoy. En el largo plazo, el problema es el control de cualquier modelo de frontera, incluso los que sí mantienen salvaguardas.

También rechaza la idea de que las advertencias de la industria sean marketing. «Ninguna de las advertencias que hacen los insiders de la industria es en absoluto insincera. Son absolutamente la verdad y es prácticamente universal», afirma. Y agrega que la respuesta de los gobiernos «no ha estado a la altura de la velocidad con la que surge el desafío».

Las tres vías técnicas para controlar la IA

Gates no cree que el problema de control sea irresoluble, pero tampoco que esté resuelto. Su diagnóstico sobre el estado actual de la «alineación» es directo: «No somos lo suficientemente buenos para alinear todavía. Tenemos mucho trabajo por hacer».

En la entrevista enumera tres caminos:

• Cambiar cómo se construyen los modelos. Buscar una alternativa al enfoque actual de aprendizaje por refuerzo. Gates menciona que hay pocas personas trabajando en esa dirección.
• Ganar visibilidad sobre el modelo. Entender exactamente qué hay adentro, con interpretabilidad real, para ver dónde se producen los errores.
• Una capa de seguridad externa. Un «policía» simbólico que tenga la última palabra sobre el uso de recursos o la toma de control de otras computadoras. Reglas directas que no se pueden romper, en lugar de probabilidades repartidas sobre miles de millones de parámetros.

Gates apuesta a que la tercera es la más probable de funcionar, aunque reconoce que hoy no está lista. Su argumento: cualquier cosa que quede fuera de la función de optimización del aprendizaje por refuerzo puede ser explotada.

¿Por qué la regulación no puede quedar en manos de las empresas?

Este es el punto más incómodo para el ecosistema emprendedor. Gates sostiene que, una vez que hay varios competidores en la frontera, la responsabilidad deja de ser de las empresas y pasa a ser del gobierno, «igual que con cualquier otro producto peligroso».

Su crítica al estado actual es dura: «El debate de hoy es literalmente si el gobierno debería siquiera prestar atención a los peligros. Ni siquiera tienes que mostrar lo que estás haciendo, es un ‘llámame voluntariamente si quieres’, lo cual es claramente inadecuado para el arma más peligrosa de todos los tiempos».

Gates también responde a quienes sostienen que la seguridad es una excusa para frenar a los competidores. Cuando se le menciona la comparación que hizo Ben Horowitz en el podcast All-In —que la investigación en seguridad de IA podría provocar la extinción humana, igual que, según él, los esfuerzos de preparación ante pandemias habrían causado el COVID—, Gates responde: «Nadie ha acusado nunca a la Gates Foundation de estar involucrada en investigación de gain-of-function. Eso es simplemente extraño».

Mientras tanto, la regulación avanza a los tumbos

El contexto político que rodea la entrevista explica la urgencia. Según Politico, Anthropic entregó a legisladores estadounidenses un borrador confidencial de ley federal de seguridad para modelos de frontera. El texto permitiría al Departamento de Comercio pedir a un juez federal que detenga el despliegue de un modelo cuando el daño potencial supere los US$1.000 millones o pueda causar la muerte o lesiones graves a más de 50 personas, en tres zonas concretas: armas biológicas, pérdida de control del modelo y ciberataques. También exigiría evaluadores independientes registrados y reporte de riesgos emergentes en 72 horas. El borrador se apoya en la ley californiana SB 53, firmada en 2025.

En paralelo, el presidente de Microsoft, Brad Smith, dijo en una entrevista con la BBC publicada el 11 de octubre que «tu lavadora está sujeta a más reglas de seguridad que la IA» y pidió cuatro medidas vinculantes: frenos de emergencia, reporte obligatorio de incidentes, notificación a víctimas y evaluación independiente previa al lanzamiento de modelos de frontera.

Y ante el estancamiento federal, Google, OpenAI y Anthropic trabajan en un organismo autorregulador, la Standards Authority for Frontier AI (SAFA), según reportó The Information. El problema de fondo es evidente: las empresas que serían auditadas estarían definiendo los estándares de la auditoría.

Hay un dato de la entrevista que conviene retener para el debate energético. Gates señala que un gigavatio de capacidad de data center implica una inversión del orden de US$40.000 millones, y sostiene que esos centros se van a construir igual, en algún lugar, porque representan ingresos fiscales para las comunidades que los alojan.

¿Qué significa esto para tu startup?

Tres movimientos concretos, más allá del debate filosófico.

Primero, la trazabilidad deja de ser opcional. Si el borrador de Anthropic o algo parecido avanza, el reporte de incidentes en 72 horas y los evaluadores registrados se convierten en parte de la cadena de suministro de IA. Empieza hoy a documentar qué modelos usas, con qué salvaguardas y qué datos tocan. Es mucho más barato hacerlo ahora que reconstruirlo bajo presión regulatoria.

Segundo, revisa tu discurso comercial. Gates propone la figura de trabajos «Human Reserved» —menciona cuidado infantil, educación, salud y servicio de jurado— y la posibilidad de gravar tokens de IA y robots para reducir el incentivo de reemplazar personas. Si tu pitch se apoya en «reemplazamos N empleados», estás apostando a un viento político que puede cambiar de dirección.

Tercero, planifica ciclos de producto más lentos. Las evaluaciones previas al lanzamiento y los estándares de terceros probablemente agreguen semanas entre el modelo listo y el producto en producción. Diseña tu roadmap con ese colchón, sobre todo si construyes sobre modelos de frontera.

Conclusión

Gates no pide frenar la IA. Pide, con sus palabras, «traer a toda la sociedad» a la conversación para acelerar lo bueno y minimizar lo malo. La parte incómoda de su mensaje es que no cree que exista hoy una propuesta globalmente exigible para desacelerar, y que el debate público todavía discute si el gobierno debería mirar el problema.

Para un founder hispanohablante, la lectura práctica es simple: la ventana en la que la IA se movía más rápido que las reglas se está cerrando. Quien construya con trazabilidad, con criterio sobre qué automatizar y con un discurso que no dependa de eliminar puestos de trabajo, va a llegar mejor parado a la próxima etapa.

Fuentes

• The Verge — Bill Gates says to prepare for 20 years of ‘tumultuous’ AI disruption (fuente original)
• CNBC — Bill Gates warns ‘there is no plan’ for the ‘upheaval’ AI will cause
• TechRepublic — Bill Gates Says Some Jobs Should Be Off-Limits to AI
• Crypto Briefing — Anthropic pitches a frontier AI safety bill to US lawmakers, Politico reports
• Gadget Review — Microsoft President: AI Has Fewer Safety Rules Than Your Washing Machine
• TechRepublic — Google, OpenAI, Anthropic Reportedly Plan AI Safety Standards Body
• Yahoo — Bill Gates Warned of a Pandemic Years Before Covid Hit

Artículos relacionados:

Bill Gates advierte: la IA «va a cambiarlo todo» y nadie frena el tren Bill Gates propone gravar la IA y los robots para blindar empleos Gates propone gravar robots y reservar oficios para humanos Bill Gates propone impuestos a la IA y «Human Reserved» Bill Gates pide impuestos a la IA y un 40% de empleos “Human Reserved”