Rippling frena el gasto en IA tras quemar millones en tokens

El costo oculto del frenesí de tokens en las empresas tecnológicas

A comienzos de año, la fiebre por el desarrollo impulsado por inteligencia artificial llevó a miles de compañías a adoptar políticas de consumo ilimitado de tokens. Sin embargo, el exceso de confianza en modelos de lenguaje de última generación sin una supervisión estricta desató una crisis financiera interna en numerosas organizaciones. Un claro ejemplo es Rippling, proveedor de software de recursos humanos, cuyo equipo directivo descubrió con asombro en marzo que su gasto en tokens de IA crecía a un ritmo mensual del 80%.

Según explicó el director de productos Matt MacInnis en declaraciones a TechCrunch, la empresa estaba en camino de destinar el 40% de su presupuesto total en personal de investigación y desarrollo (I+D) exclusivamente a la compra de tokens de IA. La situación llegó a un punto crítico en el que una pequeña fracción de la plantilla absorbía una parte desproporcionada de los recursos: aproximadamente entre el 10% y el 15% de los empleados generaban cerca del 60% del gasto total en IA, con casos individuales que alcanzaban los 50.000 dólares mensuales por ingeniero.

Cómo funciona el control de gasto y la pasarela de modelos de IA

Ante este escenario de descontrol financiero, Rippling optó por desarrollar una solución interna denominada AI Spend Console, una herramienta concebida para frenar el exceso de gasto sin limitar de tajo el acceso de los empleados a la tecnología. El primer paso de la compañía consistió en negociar topes máximos de gasto con los principales proveedores de modelos, como OpenAI, Anthropic y Cursor.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El análisis interno reveló un patrón común entre los equipos técnicos: por defecto, los ingenieros utilizaban invariablemente los modelos más recientes, complejos y costosos para cualquier tipo de tarea, independientemente de su complejidad. Para solucionar esta ineficiencia, la plataforma incluye una pasarela propia de IA (AI gateway) diseñada para redirigir automáticamente cada instrucción al modelo más adecuado y rentable para la tarea en cuestión. Esta estrategia permitió a la compañía reducir drásticamente el costo de su consumo mensual de tokens hasta representar aproximadamente el 15% de su presupuesto de personal de I+D, manteniendo el volumen total de uso de tokens sin sacrificar la productividad.

¿Qué significa esto para tu startup?

Para los founders y directores de tecnología que gestionan presupuestos ajustados, el caso de Rippling ilustra un riesgo financiero real y latente al integrar herramientas de IA generativa sin gobernanza. Confiar en que los proveedores de modelos ofrezcan de forma nativa mecanismos de control de costos va en contra de sus incentivos comerciales.

Para proteger los márgenes de tu startup y asegurar un retorno de inversión (ROI) real, implementa las siguientes acciones concretas:

Audita el uso por empleado: Identifica de inmediato si una pequeña minoría de tu equipo concentra la mayor parte del consumo de API y evalúa si ese volumen de tokens se traduce de forma directa en código de calidad, menor tiempo de entrega o resultados de negocio tangibles.
Diversifica los modelos y establece pasarelas: No dejes que tus equipos utilicen siempre los modelos más caros por defecto. Integra un sistema de enrutamiento o establece políticas claras para utilizar opciones más económicas y eficientes (como modelos de código abierto o alternativas optimizadas) para tareas rutinarias o borradores iniciales.