El 79% de las empresas corre IA con GPUs ociosas la mitad del tiempo
El 79% de las empresas que corre IA en producción admite que sus GPUs están ocupadas la mitad del tiempo o menos. El dato proviene de las encuestas VB Pulse de julio, agosto y septiembre de 2026 que VentureBeat Intelligence agrupó sobre 385 responsables calificados de organizaciones con 100 empleados o más.
Lo llamativo no es el desperdicio, sino la reacción: el 70% de las compañías con GPUs ociosas planea adoptar una plataforma de cómputo de IA nueva, adicional o de reemplazo en los próximos doce meses. Entre las que tienen las GPUs ocupadas, ese porcentaje es 74%, una diferencia que el propio informe califica como estadísticamente insignificante.
Traducido a la vida de una startup: la mayoría está pagando capacidad que no usa y, en lugar de exprimir lo que ya tiene, se prepara para firmar otro contrato.
Leíste lo que hace la IA. ¿Y en tu negocio?
En CAR, dueños de empresa arman en 7 días su primer sistema funcionando: que ningún cliente se les escape, o que el informe del lunes salga solo. Con otros emprendedores al lado.
👥 Probar 7 días¿Por qué hay GPUs ociosas si la demanda de IA no para?
La demanda existe, pero aterriza en otro lugar. Profesionales y consumidores usan cada vez más IA, y buena parte de ese trabajo corre sobre los modelos frontera de Anthropic y OpenAI. El desajuste está un nivel más abajo, dentro de las empresas, que pagan por dos tipos de IA que no se sustituyen entre sí.
El primero es capacidad. Muchas compañías se asustaron con los reportes de escasez de GPUs de 2024 y 2025 y reservaron capacidad para no quedarse cortas. El segundo son los modelos frontera: los empleados prefieren los modelos más capaces, pagados por token vía API, por suscripción mensual o a través de los grandes proveedores cloud.
El problema es que los modelos frontera de OpenAI y Anthropic son cerrados: los ejecuta el proveedor en su propia infraestructura y cobra por token o por capacidad reservada para ese modelo. Una empresa no puede cargarlos en las GPUs que ya controla. Para mover trabajo a esas GPUs hay que pasarse a un modelo de pesos abiertos y operarlo por cuenta propia, y eso es trabajo de ingeniería real.
La opción más barata trae preguntas incómodas: en las pruebas que VentureBeat hizo en octubre, DeepSeek fue el más económico de cinco modelos abiertos que corrió, pero viene de un laboratorio chino y muchas empresas siguen reticentes a convertirlo en su modelo de trabajo principal.
El costo ya se siente. Praveen Neppalli Naga, CTO de Uber, dijo en agosto que "estamos llegando al final de la era del tokenmaxxing", después de que Uber consumiera su presupuesto de IA de 2026 en pocos meses, según Fortune.
El 90% que busca plataforma nueva mira nube o proveedor de modelos
Los datos del informe refuerzan esa lectura. Entre las empresas con GPUs ociosas que planean una plataforma nueva, el 90% incluyó una plataforma cloud o un proveedor de modelos entre sus opciones, y solo el 8% mencionó un clúster de GPUs on-premise o colocadas, o un stack open source autogestionado.
Hay una excepción que vale la pena mirar: entre las compañías que corren su propio stack, el 56% reporta GPUs ociosas la mitad del tiempo o más, contra el 83% de todas las demás. El informe no preguntó por qué. La hipótesis del autor es razonable: quien opera su propio stack ve cada hora ociosa de frente y tiene ingenieros para llenarla.
Lo que sí es difícil de defender es la falta de números. En la encuesta de septiembre, el 91% de las empresas que planeaban una plataforma de cómputo nueva no tenía una cifra de retorno de inversión revisada por su equipo de finanzas.
El costo se está mudando del token a la tarea terminada
Buena parte del gasto futuro irá a uso de modelos: los cargos por token que cobran los creadores de modelos y los proveedores cloud. Y esas facturas van a crecer porque las empresas se mueven hacia agentes que planifican y ejecutan tareas de varios pasos. Gartner proyectó que los costos de inferencia por flujo de trabajo agéntico subirán más de cinco veces de aquí a 2028.
La paradoja es que el precio por token baja. Pero los agentes consumen tantos más tokens, y más caros, que la caída no alcanza a compensar.
Ahí aparece el contexto como palanca. Dos ingenieros de Nvidia reportaron en una guía técnica publicada en marzo que, después de la primera llamada en una sesión de Claude Code, las llamadas siguientes reutilizan entre 85% y 97% de su contexto desde caché. Y reutilizar ese contexto es mucho más barato: Anthropic cobra entre un cuarentavo y un décimo de su precio normal de entrada por tokens en caché, según su documentación de precios.
Multiplicar agentes también multiplica la factura. Equipos de agentes de código, con un agente líder corriendo hasta cinco subagentes a la vez, cuestan entre 1,8 y 5,1 veces más que un agente único, y solo uno de cada cuatro esquemas de equipo mejoró los resultados de benchmark de forma estadísticamente significativa, según Vals AI.
Qué significa esto para tu startup
Si tu equipo está en medio de la temporada de presupuestos, la pregunta no es "¿qué plataforma compro?" sino "¿cuánto me cuesta cada tarea terminada?". Estas son las acciones que el propio informe recomienda y que puedes empezar esta semana:
- Mide el costo por tarea completada, sumando capacidad de GPU y gasto de API en la misma métrica. Sin ese número, cualquier decisión de compra es una apuesta.
- Prueba qué modelo y qué nivel de esfuerzo debería ser el default de la empresa, juzgando por costo por tarea terminada y no por precio por token. Un modelo más barato puede consumir tantos más tokens que salga más caro por tarea.
- Envía a cada agente solo el contexto que necesita y cachea el contexto repetido, sea vía las APIs del proveedor de modelos o en tu propia infraestructura.
- Agrega un segundo agente solo cuando la tarea se parta en piezas paralelas. Si no se parte, el segundo agente es factura sin resultado.
- Mueve trabajo rutinario y de alto volumen (clasificación, extracción, resumen) de las APIs de modelos frontera a modelos abiertos corriendo en la capacidad ociosa que ya pagas.
- Llena las horas de GPU que sobren con trabajo que puede esperar: inferencia por lotes, evaluaciones de modelos y ajuste fino.
Un segundo punto, menos técnico y más estratégico: antes de firmar un contrato nuevo, exige una cifra de ROI revisada por finanzas. El 91% que no la tiene no es una anécdota de un informe; es el patrón de una industria que compró primero y preguntó después.
El contexto macro: capex récord y primeras grietas
Mientras las empresas debaten qué hacer con sus GPUs ociosas, los grandes siguen construyendo. UBS estima que el capex de los hyperscalers podría llegar a unos US$4,1 billones entre 2026 y 2028, más de tres veces lo gastado en los seis años previos, según reportó 247wallst. La misma casa calcula que Amazon, Alphabet y Microsoft gastarán cerca del 102% de sus ingresos de cloud en capital expenditures en 2026.
Meta guía su capex de 2026 entre US$130.000 millones y US$145.000 millones, contra los US$72.000 millones de 2025, y los cinco mayores proveedores de nube e infraestructura de IA de Estados Unidos apuntan colectivamente a US$660.000 a US$690.000 millones para 2026, según CryptoBriefing.
Del otro lado, las dudas ya se ven en el mercado. Morgan Stanley espera que el crecimiento interanual del capex se desacelere del 60% en 2027 al 14% en 2028, tras un 2026 que creció casi 100%, según Business Insider. Y CryptoBriefing recogió una jornada en la que el índice KOSPI de Corea del Sur cerró 7,57% abajo, con Samsung Electronics y SK Hynix cayendo 9,5% y 11,1% respectivamente, según Reuters.
David Sherman, estratega de la red de cómputo descentralizado io.net, lo resumió así: "La industria se convenció de que la respuesta al crecimiento de la demanda de IA es simplemente construir más, cuando una parte significativa de la solución podría ser usar mejor lo que ya tenemos".
El movimiento ya se está dando también en el mercado de herramientas: Nutanix adquirió la francesa Ryax, fundada en 2017, para integrar capacidades de utilización de GPU y scheduling inteligente en su plataforma, según CRN. Los términos financieros no se divulgaron.
Conclusión: el próximo ahorro no está en comprar más
El titular de la semana es una contradicción que no lo es: el 79% de las empresas tiene GPUs ociosas y el 70% de ellas igual planea comprar más cómputo. La razón es que el trabajo real de sus equipos corre sobre modelos cerrados que no pueden cargar en esas GPUs.
Para un founder, la oportunidad es concreta y no requiere capex: medir el costo por tarea terminada, cachear contexto, enrutar el trabajo de alto volumen a modelos abiertos sobre capacidad ociosa y no sumar agentes sin necesidad. Antes de la próxima firma, el número que importa no es el precio por token, sino cuánto cuesta cada resultado que el negocio puede usar.
Fuentes
- VentureBeat: AI bubble update, 79% of companies say their GPUs sit idle (fuente original)
- CryptoBriefing: AI industry may be building too many data centers while existing GPUs sit idle
- 247wallst: Hyperscalers Are Spending 102% of Cloud Revenue on Capex
- Business Insider: Morgan Stanley says these 24 AI infrastructure stocks are built to hold up even if capex slows
- CryptoBriefing: Meta's AI spending plans point to a bigger Big Tech capex race
- CRN: Nutanix Acquires Ryax To Boost GPU Utilization And Agentic AI Play
Leíste lo que hace la IA. ¿Y en tu negocio?
En CAR, dueños de empresa arman en 7 días su primer sistema funcionando: que ningún cliente se les escape, o que el informe del lunes salga solo. Con otros emprendedores al lado.
👥 Probar 7 días
