ConvAI responde a TypeSafe AI con un modelo 8 veces más rápido
En septiembre de 2026, TypeSafe AI lanzó Jev, un modelo no autorregresivo enfocado en decisiones estructuradas. Días después, la startup ConvAI Innovations publicó Laya: una versión open source que promete correr hasta 8 veces más rápido (32,8 ms frente a los 236-276 ms de Jev) y eliminar por completo el coste por token, reavivando el debate sobre quién posee realmente la innovación en los modelos de "reflejo rápido".
¿Qué es Laya y por qué nace como alternativa a Jev?
Laya es un motor de decisiones tipo System 1 (decisiones instintivas y estructuradas, sin generación de texto) basado en codificadores bidireccionales y entrenado con RLCD (Reinforcement Learning for Calibrated Decisions). Funciona como una alternativa directa al Jev de TypeSafe AI.
TypeSafe AI, fundada por Diogo Almeida (figura clave de OpenAI), salió recientemente del modo stealth tras levantar una ronda semilla de US$40M liderada por DCVC, con una valoración cercana a los US$200M, según reportó Forkast News. La diferencia clave es que Jev opera como una API cerrada a US$0,042 por millón de tokens, mientras que ConvAI decidió liberar los pesos de Laya bajo licencia Apache 2.0 en Hugging Face.
🤖 La IA no es solo para leer sobre ella
En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.
👥 Aplicarla en la comunidadLas tres primitivas de decisión: choice, score y noul
Igual que su contraparte comercial, Laya no escribe texto: devuelve probabilidades exactas sobre esquemas predefinidos, lo que hace matemáticamente imposible que alucine o genere JSON malformado. Lo hace a través de tres primitivas:
- choice: selección de una opción dentro de un diccionario de criterios.
- score: ubicación en una rúbrica ordinal (por ejemplo, urgencia de 0 a 3).
- noul: probabilidad booleana calibrada devolviendo P(true) de 0,0 a 1,0.
Esta arquitectura permite procesar múltiples preguntas en un solo pase hacia adelante (forward pass), entregando respuestas estructuradas con puntajes de confianza reales.
Velocidad y coste: la ventaja estructural frente a Jev
La principal propuesta de valor de Laya es la latencia extrema y el coste cero. Medido en una única GPU:
- Pregunta única: 32,8 ms (P50).
- Lote de 10 preguntas: 72,3 ms en total (7,2 ms por pregunta).
- Coste por inferencia: US$0,00 por token (autoalojado).
En comparación, Jev opera con una latencia P50 de entre 236 y 276 ms y se factura a US$0,042 por millón de tokens de entrada, según la documentación oficial de TypeSafe AI.
El problema oculto de los modelos en inglés: enrutamiento obligatorio
Uno de los hallazgos más críticos de las pruebas de ConvAI es el fallo catastrófico de los modelos en otros alfabetos. Al probar el checkpoint en inglés (ModernBERT-large) en el benchmark MASSIVE, los resultados fueron desastrosos y profundamente engañosos:
- Jemer: 0,000 de exactitud, pero con un 0,952 de confianza media.
- Armenio: 0,050 de exactitud, 0,885 de confianza.
- Hebreo: 0,060 de exactitud, 0,964 de confianza.
La conclusión operativa es demoledora: la confianza del modelo no sirve como alarma. Para resolverlo, Laya incluye un Router en Python puro que detecta el script Unicode (Devanagari, CJK Han, Cirílico, Árabe, Hebreo, Tamil, Tailandés, etc.) y enruta al checkpoint multilingüe adecuado antes del pase hacia adelante. El coste de este enrutamiento es despreciable: 0,09 ms en inglés estándar y 0,73 ms en documentos JSON grandes.
Benchmarks: ¿qué tan bien rinde Laya frente a Jev?
En pruebas internas, Laya superó a Jev en la mayoría de los indicadores clave de producción:
| Métrica | TypeSafe Jev 1.13.0 | Laya (enrutado) | Ventaja |
|---|---|---|---|
| typed-decisions | 0,727 | 0,766 | +3,9% |
| AG News (4 etiquetas) | 0,910 | 0,950 | +4,0% |
| Error de calibración (ECE) | 0,246 | 0,081 | 3 veces mejor |
| Latencia P50 | 236 – 276 ms | 32,8 ms | 7,8 veces más rápido |
| Coste por 1M tokens | US$0,042 (API) | US$0,00 (local) | 100% gratis |
En flujos de trabajo empresariales reales, Laya también mostró un rendimiento sólido:
- Filtrado de spam (dataset Enron): 0,993 de exactitud y 0,013 de ECE.
- Detección de phishing: 0,980 de exactitud.
- Guardrails anti-jailbreak: 0,755 – 0,762 de exactitud base, que sube a 0,931 al operar con cobertura selectiva del 50%.
Limitaciones reales: cuándo Laya no es la herramienta adecuada
El equipo de ConvAI también publica los puntos débiles de su modelo para evitar expectativas infladas:
- Degradación con más de 20 opciones: Laya cae rápidamente. En la prueba de estrés Banking77 (77 etiquetas), Laya puntuó 0,425 frente al 0,870 de Jev, ya que las opciones compiten por un presupuesto de tokens limitado.
- Cero disparos vs. fine-tuning: Los pesos base rinden cerca del azar (~0,35). El puntaje de 0,766 solo se alcanza ajustando el modelo con datos del dominio.
¿Qué significa esto para tu startup?
La aparición de Laya y Jev valida que no todo problema de IA necesita un chatbot generativo. Si tu producto maneja clasificación de tickets, enrutamiento, triaje o guardrails, podrías reducir latencia y costes drásticamente.
Acción concreta 1: Audita tu pipeline e identifica en qué pasos estás gastando tokens de un LLM pesado (como GPT-4 o Claude) para tomar decisiones simples de "sí/no" o clasificación. Esos casos son ideales para un modelo System 1 como Laya o Jev.
Acción concreta 2: Si manejas datos sensibles, clientes en industrias reguladas o simplemente quieres eliminar el coste variable de la API, evalúa descargar Laya bajo Apache 2.0. Sus checkpoints de 421M parámetros corren eficientemente en una sola GPU, permitiéndote operar on-premise o en redes aisladas (air-gapped) sin enviar datos a servidores de terceros.
Conclusión
Laya no es solo un lanzamiento técnico; es una declaración sobre el ritmo de la innovación abierta frente a las startups bien financiadas. Al abrir los pesos y los datasets, ConvAI planta la bandera del "AI soberano y de bajo coste" en el nicho de las decisiones estructuradas, dándoles a los founders una herramienta lista para producción que respeta la soberanía de los datos.
Fuentes
- Laya the open source version of Jev (fuente original)
- TypeSafe AI's Jev Is Not an LLM — And That May Be the Point (Forkast News)
- TypeSafe AI's new models work with machines, not humans (InfoWorld)
🤖 La IA no es solo para leer sobre ella
En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.
👥 Aplicarla en la comunidadArtículos relacionados:
TypeSafe AI levanta US$40M con Jev, modelo de decisiones
TypeSafe AI presenta Jev: 200x más rápido y 400x más barato
TypeSafe AI levanta US$40M con Jev, el modelo que no es LLM
Jev, el modelo no-LLM de un ex-OpenAI, seduce a developers
Jev Ultrafast: agente de navegador que termina tareas en 7 segundos
