Uber contuvo su gasto en IA con 4 ajustes por defecto

Uber agotó su presupuesto de IA y ahora impone cuatro valores por defecto

Cuando un ingeniero de Uber abre Claude Code para una sesión interactiva, la compactación automática se activa a los 400.000 tokens, incluso en modelos con ventanas de contexto de un millón. El esfuerzo de razonamiento viene en nivel medio, no en alto. Y ninguna definición de herramienta MCP se carga al arrancar. El ingeniero no eligió nada de eso: lo eligió Uber.

Es la respuesta a un problema que muchos founders van a reconocer. Según el CTO Praveen Neppalli Naga, en una entrevista con The Information, Uber consumió su presupuesto de IA de 2026 en los primeros meses del año. La compañía había incentivado el uso de herramientas como Claude Code con tablas de posiciones que rankeaban a los ingenieros por consumo.

El caso no es aislado. En la encuesta VB Pulse de octubre de VentureBeat sobre infraestructura de IA, 38% de 156 encuestados dijo que su organización había retrasado, reducido o cancelado un proyecto de IA en el último año porque costó más de lo esperado.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Los cuatro ajustes que Uber aplica a cada ingeniero

Uday Kiran Medisetty, distinguished engineer de Uber, los detalló en el Agentic Infrastructure Stack Summit de VentureBeat del 28 de octubre. Uber prueba estos valores con A/B testing entre cohortes de empleados, para que los ingenieros, en sus palabras, no tengan que pensar en todo esto.

  • Compactación automática a 400.000 tokens. Un agente devuelve todo su contexto al modelo en cada request, así que un contexto más grande encarece cada paso. Pasados los 700.000 u 800.000 tokens, los fallos de caché y los tokens de entrada cuestan mucho. Medisetty llamó a 400.000 un buen balance medio.
  • Esfuerzo en medio. Más razonamiento significa más tokens. Los modelos lanzados en los últimos meses rinden mucho mejor en nivel medio, dijo, y muestran cierta degradación en alto.
  • Caché de prompt de una hora para el agente principal y cinco minutos para los subagentes. Los ingenieros se alejan del orquestador más de cinco minutos, así que una caché corta expiraría y el siguiente request pagaría precio completo. Uber mide qué porcentaje de requests se sirve desde caché y ajusta esos tiempos para subir esa tasa.
  • Ninguna definición de herramienta MCP al arrancar. Uber mantiene sus servidores MCP, pero los agentes acceden por línea de comandos contra su gateway central. Con más de 100 herramientas, las descripciones ocuparían 50.000 a 70.000 tokens antes de que el ingeniero escriba una palabra.

Medisetty no puso cifra de ahorro a ningún ajuste individual. El post de ingeniería de Uber de agosto reporta el efecto conjunto: manteniendo el modelo constante para aislar el efecto de las optimizaciones, el costo por 1.000 requests cayó casi 34% desde su pico y el costo por sesión bajó 52% desde su máximo de junio. La única cifra individual que dio en el escenario fue sobre elección de modelo: elegir el modelo correcto recortó 90% el costo de limpiar feature flags obsoletos.

¿Por qué más contexto no siempre es mejor?

La decisión de Uber de limitar el contexto a 400.000 tokens también tiene una razón de calidad, no solo de precio. Jeff Simon, CIO de T-Mobile, contó en el mismo summit que cargaron toda su documentación de soporte al cliente en un agente y que eso no funcionó en absoluto: el agente se confunde al trabajar con la plétora de documentación. T-Mobile ahora mantiene el contexto lo más acotado posible y enruta las consultas a agentes especializados.

En el otro extremo, Anjul Bhambhri, SVP de ingeniería de Adobe, señaló que algunas tareas de marketing sí necesitan mucho contexto. Un marketer que use Adobe CX Enterprise Coworker para refinar una campaña navideña puede necesitar saber qué ofertas corrieron en los últimos tres años. En un caso, revisar el historial reveló que el envío gratis convertía mejor entre clientes leales que un descuento del 20% en Black Friday. Su fórmula: el contexto correcto para la tarea correcta para la persona correcta.

El grafo de contexto: 200 millones de nodos

La respuesta de Uber es darle al agente un mapa de la empresa en lugar de inyectar todo el contexto por adelantado. Lo que le damos a los agentes es un mapa mental de cómo funciona Uber, dijo Medisetty.

El grafo de contexto contiene información sobre servicios en producción, sus dueños, datasets y consultas históricas. Los agentes reciben primero el esquema, la estructura de lo que contiene el grafo, y recorren el resto por su cuenta. Al 28 de octubre, Medisetty lo situó cerca de 200 millones de nodos y aristas, contra los 104 millones combinados (24 millones de nodos y 80 millones de aristas) que reportaba el post de agosto de Uber.

El ejemplo que da la compañía: con el mismo modelo y el mismo prompt, con el grafo identificó correctamente una tabla de datos en 38 segundos; sin el grafo tardó 20 minutos y 9 segundos y concluyó de forma incorrecta que esos datos no se podían consultar.

T-Mobile intentó algo parecido y lo abandonó: sus agentes se perdían en un grafo grande y la búsqueda tomaba un tiempo que una llamada en vivo no tiene.

¿Cómo mide Uber si esto funciona?

El criterio de Medisetty es maximizar el throughput manteniendo los mismos guardarraíles de calidad. Del lado de producción mide documentos de diseño, pull requests y despliegues. Del lado del riesgo, incidentes por cambio de código, frecuencia de reversiones y tiempos de revisión y ciclo.

También construye confianza de forma gradual. Cuando falla un chequeo de integración continua, su CI auto-reparable intenta una solución y primero la manda por Slack al ingeniero para que la acepte. Solo cuando un tipo de fallo muestra buena tasa de aceptación, pasa a auto-aceptarse y parchea el pull request directamente.

Vale la pena notar que Medisetty no dio cifras de estas métricas ni un cálculo del retorno financiero total. En la encuesta VB Pulse de octubre, 26% de los encuestados dijo que juzga su gasto en IA por un retorno financiero defendible ante finanzas, y 44% por un resultado operativo medido, como tiempo ahorrado o volumen gestionado. Las métricas de Uber caen en la segunda categoría.

Qué significa esto para tu startup

El mensaje central es incómodo pero liberador: el gasto en IA no se controla con un presupuesto, se controla como un problema de ingeniería. Naga lo dijo así: no porque hayamos restringido el acceso, sino porque tratamos la eficiencia como un problema de ingeniería en lugar de un problema de presupuesto. Según Yahoo Finance, Uber cuadruplicó el número de empleados que usan herramientas de IA de frontera y aun así bajó el costo por token, mejorando la caché de prompt, ajustando el modelo por defecto y dejando que cada ingeniero vea su uso y su costo por hora. El CFO Balaji Krishnamurthy lo confirmó en los resultados trimestrales recogidos por Business Insider: el costo por token bajó durante varios meses incluso con la adopción en aumento, lo que mantuvo el gasto total en IA estable.

Y el problema es real. Un estudio de Microsoft Research citado por TechRepublic encontró que tareas idénticas pueden variar hasta 30 veces en consumo de tokens, y que los modelos predicen mal su propio gasto: la correlación entre lo que anticipan y lo que consumen no supera 0,39. Las tareas agénticas consumen hasta 1.000 veces más tokens que el razonamiento de código o el chat.

Acciones concretas que puedes implementar esta semana:

  • Pregunta a tu equipo de plataforma cuatro cosas. Cuál es el límite de contexto y cuándo se activa la compactación automática; qué nivel de esfuerzo corre por defecto; cuánto vive la caché de prompt para cada tipo de agente; y cuántos tokens de esquema de herramientas se cargan antes del primer prompt. Son las cuatro preguntas que Uber ya respondió.
  • Instrumenta el gasto por tarea y por equipo, no por cuenta. Sin visibilidad por workflow solo te queda un tope mensual agregado que llega cuando el dinero ya se gastó. Atribuir el gasto a unidades de negocio es lo que permite negociar contratos y comparar contra una línea base de piloto.
  • Enruta por tarea, no por marca. El caso de Uber muestra que elegir el modelo correcto puede recortar el costo de una tarea específica hasta 90%. Un informe de Hyperscience con más de 400 decisores, publicado en septiembre, encontró que 77% de las organizaciones ya enruta cargas no críticas a modelos más pequeños y baratos, y que 80% está abandonando la estrategia de un solo modelo grande.
  • Empieza con contexto acotado y amplía solo si hace falta. El experimento fallido de T-Mobile es la advertencia: cargar toda la documentación en un agente no lo hace más inteligente, lo confunde.

El contexto de mercado refuerza la urgencia. Atlassian empezó a poner a sus ingenieros en presupuestos de IA y GitHub congeló nuevas altas de Copilot porque el uso agéntico superó lo que su precio podía sostener, según The Next Web. Y Helen O’Sullivan, de Dell, contó en SiliconANGLE que muchos clientes de la Bahía se quedan sin el presupuesto de tokens que habían asignado para meses en cuestión de semanas.

La conclusión práctica para un founder hispanohablante con equipo chico es que la ventaja ya no está en quién usa el modelo más grande, sino en quién saca más trabajo útil por dólar. Eso se diseña: límites de contexto, niveles de esfuerzo, caché y enrutamiento de modelos son decisiones de arquitectura, no de compras.

Fuentes

¿te gustó o sirvió lo que leíste?, Por favor, comparte.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Daily Shot: Tu ventaja táctica

Lo que pasó en las últimas 24 horas, resumido para que tú no tengas que filtrarlo.

Suscríbete para recibir cada mañana la curaduría definitiva del ecosistema startup e inversionista. Sin ruido ni rodeos, solo la información estratégica que necesitas para avanzar:

  • Venture Capital & Inversiones: Rondas, fondos y movimientos de capital.
  • IA & Tecnología: Tendencias, Web3 y herramientas de automatización.
  • Modelos de Negocio: Actualidad en SaaS, Fintech y Cripto.
  • Propósito: Erradicar el estancamiento informativo dándote claridad desde tu primer café.

📡 El Daily Shot Startupero

Noticias del ecosistema startup en 2 minutos. Gratis, todos los días.

Share to...