Gemini API estrena Tool Retrieval para agentes

Tool Retrieval: la Gemini API deja de enviar todas las herramientas en cada peticion

Cuando un agente se conecta a decenas o incluso cientos de herramientas, mandar el esquema completo de parametros de cada una en cada peticion se acumula rapido: infla el conteo de tokens de entrada, agrega latencia y reduce la precision con la que el modelo elige la herramienta correcta a medida que crece la lista de candidatas. Eso es exactamente lo que Google dice que resuelve Tool Retrieval, la funcion que acaba de lanzar en la Gemini API en preview dentro de la Interactions API.

La idea es simple: tu agente mantiene su biblioteca completa de herramientas en reserva y solo carga los esquemas de parametros cuando la tarea en curso los necesita. Menos tokens de entrada, menos latencia y, segun Google, mejor seleccion de herramientas.

Como funcionan toolsearch y deferloading

Para activarlo se agrega una herramienta tool_search a la peticion y se marca defer_loading: true en las herramientas que quieres retener. El modelo sigue viendo el nombre y la descripcion de cada herramienta diferida —sabe que hay disponible—, pero los esquemas de parametros se quedan fuera del contexto.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Cuando el modelo necesita una herramienta, la pide por nombre, la API carga el esquema completo y el modelo llama a la funcion, todo dentro de la misma peticion. Los tres pasos aparecen en interaction.steps, lo que facilita inspeccionar que herramientas considero el modelo cuando algo falla.

tools = [
  {"type": "tool_search"},
  {
    "type": "function",
    "name": "issue_refund",
    "description": "Refund an order to the original payment method.",
    "defer_loading": True,
    "parameters": {...}
  },
  # ... 50+ funciones diferidas
]

Dos detalles operativos que importan: no hay indice que construir ni alojar, porque Gemini corre la busqueda en el servidor; y Tool Retrieval convive bien con el prefix caching, ya que los esquemas diferidos no ocupan el inicio del prompt y los que se cargan se anaden mas adelante en la conversacion, asi que el prefijo cacheado se mantiene igual entre turnos.

Y si ya tienes tu propio registro de herramientas

Si mantienes tu propio registro, indice de embeddings o filtro de permisos por usuario, puedes declarar tool_search con "execution": "client" y definir tus propios parametros de busqueda. La diferencia es que la recuperacion del lado del cliente suma un viaje de ida y vuelta por busqueda, porque la consulta la ejecuta tu aplicacion.

La ventaja: las herramientas no necesitan declararse de antemano, asi que puedes exponer herramientas nuevas a mitad de la conversacion, por ejemplo cuando el usuario conecta una integracion.

Cuanto cuesta y con que modelos funciona

Tool Retrieval no tiene cargo separado. Los tokens de entrada y salida se facturan a las tarifas estandar del modelo que llames. Activar tool_search agrega un bloque fijo y pequeno de tokens de entrada, y cada esquema que el modelo carga se factura como entrada durante el resto de la conversacion, igual que una herramienta declarada desde el inicio.

El ahorro aparece cuando los esquemas que nunca cargas pesan mas que los que si cargas, que segun Google es el caso habitual en bibliotecas grandes. La recomendacion de la compania es medirlo contra tu propio trafico, no contra un benchmark generico.

En cuanto a modelos, funciona con Gemini 3.6 y posteriores, incluidos todos los modelos Gemini 4, dentro de la Interactions API. Para dimensionar el costo conviene tener a mano las tarifas publicadas: Gemini 4 Hydrogen cuesta US$1,50 por millon de tokens de entrada y US$7,50 por millon de salida, segun Fonearena, mientras que Gemini 4 Carbon se ubica en US$2 y US$10 respectivamente, segun Analytics Insight. Ambos manejan una ventana de contexto de 1 millon de tokens.

Tambien funciona con servidores MCP remotos: basta con poner defer_loading: true en una herramienta mcp_server y cada herramienta que ese servidor exponga se carga bajo demanda, sin listarlas una por una.

Vale ubicar esto en contexto: Google tambien esta empujando la seleccion de herramientas desde otro angulo. Su Gemini Decisions API, reportada por Interesting Engineering, evalua hasta 1.000 preguntas predefinidas en una sola pasada con latencias de 150 a 250 milisegundos, y Google Search la usa como capa de seguridad para detectar comportamiento adversario con herramientas MCP.

Que significa esto para tu startup

Si tu producto tiene un agente con mas de una docena de herramientas, este cambio ataca dos dolores que se sienten en la factura y en la experiencia de usuario al mismo tiempo. Estas son las acciones concretas:

  • Audita tu biblioteca y separa la cola larga. Deja sin diferir las herramientas que se usan en casi todas las conversaciones y marca defer_loading: true en el resto. Google es explicito: mide el ahorro contra tu propio trafico, porque el resultado depende de la proporcion entre esquemas cargados y no cargados.
  • Invierte en las descripciones. Con Tool Retrieval el modelo solo ve nombre y descripcion de las herramientas diferidas. Si la descripcion es vaga, la herramienta simplemente no aparece en la busqueda. Revisa interaction.steps para ver que considero el modelo y ajusta los textos antes de tocar el codigo.
  • Si ya tienes permisos por usuario, usa el modo cliente. Un registro propio con filtros de permisos encaja mejor con "execution": "client", a cambio de un viaje de ida y vuelta adicional por busqueda.
  • Prueba primero con tus servidores MCP mas grandes. Diferir un mcp_server completo es la forma mas rapida de medir el impacto sin reescribir como declaras tus herramientas.

Conclusion

Tool Retrieval no es una funcion que cambie el producto que construyes, pero si cambia el costo marginal de conectar tu agente a muchas herramientas. Para equipos que venian recortando su biblioteca de funciones solo para no inflar el prompt, la pregunta deja de ser cuantas herramientas puedo permitirme y pasa a ser que tan bien describo cada una.

Esta en preview en la Interactions API, asi que el momento de probarlo es ahora: con trafico real y midiendo tokens antes y despues.

Fuentes

¿te gustó o sirvió lo que leíste?, Por favor, comparte.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Daily Shot: Tu ventaja táctica

Lo que pasó en las últimas 24 horas, resumido para que tú no tengas que filtrarlo.

Suscríbete para recibir cada mañana la curaduría definitiva del ecosistema startup e inversionista. Sin ruido ni rodeos, solo la información estratégica que necesitas para avanzar:

  • Venture Capital & Inversiones: Rondas, fondos y movimientos de capital.
  • IA & Tecnología: Tendencias, Web3 y herramientas de automatización.
  • Modelos de Negocio: Actualidad en SaaS, Fintech y Cripto.
  • Propósito: Erradicar el estancamiento informativo dándote claridad desde tu primer café.

📡 El Daily Shot Startupero

Noticias del ecosistema startup en 2 minutos. Gratis, todos los días.

Share to...