vLLM: de 92% a 100% en precisión de tool calls
Un 92% de esquemas correctos no alcanza para producción Servir Kimi K2.6 con vLLM 0.28 devolvía el esquema esperado de tool call solo el 92% de las veces, según documenta Ubicloud, proveedor de inferencia que sirve modelos Kimi y DeepSeek, en su blog técnico. Traducido a la práctica: 2 de cada 25 llamadas a herramientas …









