LLM 0.32: trazas de razonamiento y herramientas para agentes IA

¿Qué trae de nuevo LLM 0.32 y por qué debería importarte?

LLM 0.32 es la actualización más significativa de esta herramienta de línea de comandos para trabajar con modelos de lenguaje desde su lanzamiento inicial. La nueva versión incluye soporte para trazas de razonamiento visibles, herramientas del lado del servidor de múltiples proveedores, registros SQLite rediseñados con direccionamiento por contenido, nuevos modelos como la familia GPT-5.6, y capacidades habilitadas por la API de Responses de OpenAI.

Para founders que construyen productos con IA, esto significa poder ver exactamente qué está "pensando" el modelo antes de dar una respuesta, ejecutar herramientas como CodeInterpreter y WebSearch directamente desde la CLI, y construir agentes más robustos con control total sobre el flujo de conversación.

¿Qué son las trazas de razonamiento y cómo funcionan?

Una de las características más destacadas es la capacidad de visualizar las trazas de razonamiento de los modelos. Cuando ejecutas LLM contra modelos de razonamiento, ahora puedes ver su proceso de pensamiento en la salida de error estándar, sin que esa información se incluya en la salida estándar que podrías canalizar a otra herramienta.

Por ejemplo, al ejecutar un prompt como llm "think about the best thing about pelicans", verás texto en gris mostrando el proceso exploratorio del modelo ("Exploring pelican qualities"), seguido del párrafo final en blanco con la respuesta concreta. Esto es crucial para depurar prompts complejos y entender por qué un modelo llegó a cierta conclusión.

Puedes desactivar esta funcionalidad con la bandera -R/--hide-reasoning si necesitas una salida más limpia para pipelines automatizados.

Nuevos modelos y herramientas del lado del servidor

LLM 0.32 incluye soporte nativo para la familia de modelos GPT-5.6, y el modelo predeterminado ahora es GPT-5.6 Luna, descrito como económico pero capaz. Esto representa un cambio importante en la relación costo-rendimiento para proyectos que dependen de llamadas API frecuentes.

Las llamadas a LLM ahora pueden utilizar herramientas del lado del servidor de varios proveedores:

• OpenAI proporciona un entorno de ejecución de código como herramienta del lado del servidor (CodeInterpreter), además de una herramienta WebSearch para búsquedas en tiempo real
• El plugin llm-anthropic 0.26 añade WebSearch, WebFetch, CodeExecution y AnthropicMCP, permitiendo ejecutar llamadas MCP contra servidores compatibles como parte de una única interacción de solicitud/respuesta

Un ejemplo de uso con AnthropicMCP:

llm -m claude-sonnet-5 -T 'AnthropicMCP("https://datasette.simonwillison.net/-/mcp")' \
  'how many rows in the blog_blogmark table?'

Esto permite que Anthropic ejecute llamadas MCP contra plugins compatibles como parte de una sola solicitud, eliminando la necesidad de orquestación manual entre herramientas.

El nuevo comando llm openai endpoint

Una adición particularmente útil es el comando llm openai endpoint, que permite ejecutar prompts contra cualquier endpoint compatible con OpenAI sin necesidad de configurarlo previamente. Estas llamadas no se registran, lo que las convierte en una herramienta práctica para ejecutar prompts únicos contra cualquier sistema que hable el "lingua franca" de las API de LLM.

Puedes usarlo incluso sin instalar LLM, mediante uvx. Por ejemplo, para ejecutar prompts contra Gemma 4 12B corriendo en LM Studio localmente:

uvx --with llm-tools-quickjs \
  llm openai endpoint http://localhost:1234/v1 -m google/gemma-4-12b \
  -T QuickJS 'Use QuickJS to multiply 3434 * 2434' --td

Esta flexibilidad es invaluable para equipos que experimentan con múltiples proveedores de modelos o que ejecutan modelos locales para pruebas de privacidad y costo.

Mejoras en la API de Python y logging inteligente

La API de Python de LLM ha evolucionado significativamente. Anteriormente requería crear una conversación y enviar mensajes uno por uno, una abstracción que comenzó a limitar casos de uso avanzados. La nueva versión introduce el parámetro model.prompt(messages=[]) que permite enviar historiales completos de conversación en una sola llamada.

Además, LLM ahora devuelve eventos estructurados en lugar de una simple secuencia de strings. Esto es crítico porque los modelos modernos devuelven una mezcla de texto de razonamiento, strings de salida, llamadas a herramientas e incluso adjuntos de imágenes. Ahora puedes manejar cada tipo de evento por separado:

for event in model.prompt("Explain cats").stream_events():
    if event.type == "reasoning":
        print(f"[thinking] {event.chunk}", end="", flush=True)
    elif event.type == "text":
        print(event.chunk, end="", flush=True)
    else:
        print(f"Other event: {event}")

El desafío más grande con este tipo de API es el logging. Si soportas el patrón donde la secuencia de mensajes se anexa en cada solicitud, idealmente quieres evitar registrar todo ese JSON duplicado en cada turno. La solución es el nuevo almacén de mensajes con direccionamiento por contenido, modelado según Git, que permite deduplicación eficiente.

LLM como framework de agentes

Simon Willison reconoce que "supongo que LLM es un framework de agentes ahora". Muchos de los cambios de herramientas de bajo nivel en esta versión fueron impulsados por las necesidades de Datasette Agent. Cuando comenzó el trabajo en LLM, el término "agente" tenía una definición tan vaga que se evitaba usarlo. Pero para septiembre de 2025, la definición "un agente de LLM ejecuta herramientas en un bucle para lograr un objetivo" estaba lo suficientemente establecida como para adoptar el término completamente.

Las cadenas de herramientas ahora pueden pausar para aprobación humana y reanudarse desde un historial de mensajes almacenado, ambas capacidades necesarias para Datasette Agent y otros sistemas de agentes en producción.

¿Qué significa esto para tu startup?

Si estás construyendo productos con IA o automatizando flujos de trabajo internos, LLM 0.32 ofrece ventajas concretas:

1. Debugging de prompts complejo: Las trazas de razonamiento te permiten entender por qué un modelo tomó ciertas decisiones, crucial cuando estás construyendo sistemas que toman acciones automatizadas basadas en salidas de LLM. En lugar de solo ver el resultado final, puedes auditar el proceso de pensamiento.

2. Reducción de costos con modelos eficientes: El cambio del modelo predeterminado a GPT-5.6 Luna refleja una tendencia hacia modelos más capaces y económicos. Para startups que ejecutan miles de llamadas diarias, esto puede representar ahorros significativos sin sacrificar calidad.

3. Agentes más robustos: La capacidad de pausar para aprobación humana y reanudar desde historial almacenado significa que puedes construir agentes que manejen flujos de trabajo complejos sin perder contexto, algo esencial para automatización empresarial seria.

4. Flexibilidad multi-proveedor: El comando llm openai endpoint te permite experimentar con diferentes proveedores y modelos locales sin compromiso de configuración, ideal para equipos que evalúan múltiples opciones antes de estandarizar.

Acciones concretas que puedes implementar esta semana

Acción 1: Configura LLM 0.32 con trazas de razonamiento habilitadas

Instala o actualiza LLM y configura tu modelo predeterminado:

pip install --upgrade llm
llm models default gpt-5.6-luna

Luego prueba prompts complejos con trazas visibles para entender mejor cómo los modelos de razonamiento llegan a sus conclusiones. Usa esto para depurar prompts de producción antes de desplegar.

Acción 2: Experimenta con herramientas del lado del servidor

Si estás construyendo agentes que necesitan acceder a datos externos o ejecutar código, prueba las herramientas CodeInterpreter y WebSearch de OpenAI:

llm --tool CodeInterpreter 'Show current python and SQLite versions'

Esto te da una idea de cómo los agentes pueden interactuar con sistemas externos de manera segura y controlada, un patrón que puedes replicar en tus propios productos.

Acción 3: Evalúa el plugin llm-chat-completions-server

Si necesitas exponer tus modelos locales o configuraciones personalizadas a través de una API compatible con OpenAI, este plugin te permite levantar un servidor local rápidamente:

llm install llm-chat-completions-server
llm chat-completions-server --port 9000

Esto es útil para crear endpoints internos que otros servicios de tu startup puedan consumir sin depender directamente de APIs externas.

Conclusión

LLM 0.32 representa un punto de inflexión en la evolución de herramientas CLI para trabajar con modelos de lenguaje. La combinación de trazas de razonamiento visibles, herramientas del lado del servidor multi-proveedor, y un sistema de logging inteligente hace que sea significativamente más fácil construir y depurar sistemas basados en IA en producción.

Para founders hispanohablantes que buscan implementar IA de manera práctica, esta herramienta ofrece un puente entre la experimentación rápida y la implementación robusta. La capacidad de ver el proceso de razonamiento de los modelos, combinar herramientas de diferentes proveedores en un solo flujo, y mantener un logging eficiente son capacidades que separan los prototipos de los productos reales.

El ecosistema de plugins (llm-anthropic, llm-gemini, llm-openrouter) significa que no estás atado a un solo proveedor, algo crucial en un mercado donde los precios y capacidades cambian rápidamente. La flexibilidad de experimentar con modelos locales mediante llm openai endpoint también abre puertas para casos de uso donde la privacidad o el costo son prioritarios.

Fuentes

• New release of LLM adds support for reasoning traces, OpenAI Responses, server-side tools, and smarter logging
• LLM 0.32 changelog