Jevchat convierte a Jev en un chatbot símbolo a símbolo

Qué es jevchat y quién está detrás

En septiembre de 2026, TypeSafe AI salió del stealth y presentó Jev, un modelo bautizado como System One Model — nombre inspirado en la distinción de Daniel Kahneman entre intuición rápida y razonamiento lento, según Marktechpost. A diferencia de un LLM, Jev no genera texto: recibe un estado y devuelve decisiones tipadas con probabilidades calibradas. Con esa API como base, el desarrollador Kyle Pena publicó jevchat, un proyecto en Python que convierte a Jev en un chatbot "muestreando" una respuesta carácter por carácter — o token por token — preguntándole a Jev qué símbolo viene después en cada paso.

El repositorio ya documenta 158 tests, todos offline (sin clave de API ni red), y el propio README lo resume con honestidad brutal: "the idea is for fun, the cost is somewhat impractical, and the results are hilarious". En GitHub, por ahora, suma 1 estrella.

Cómo funciona el muestreo símbolo por símbolo

La idea es mecánicamente simple. En cada paso, jevchat le formula a Jev una única pregunta:

"Dada la pregunta del usuario y la respuesta escrita hasta ahora, ¿qué símbolo viene después?"

Las opciones son un alfabeto más un símbolo STOP. Jev devuelve una probabilidad para cada opción, el muestreador normaliza la distribución y elige el siguiente símbolo. Luego lo agrega al texto, repite la pregunta y termina cuando aparece STOP.

Los alfabetos disponibles incluyen lower26 (a-z y espacio), ascii (cualquier carácter), tokens (palabras completas) y vocabularios más grandes como words1k, bpe2k y bpe5k. Estos últimos exceden las 255 opciones que soporta una sola pregunta Choice, así que requieren estrategias de partición.

Las cuatro estrategias para resolver la siguiente palabra

Jevchat expone cuatro estrategias de muestreo, intercambiables entre sí:

• choice: una sola pregunta sobre todo el alfabeto. Es la opción por defecto, con un reordenamiento aleatorio para corregir el sesgo de posición del modelo.
• bisect: ordena el alfabeto y hace preguntas de sí/no ("¿está antes o después?") hasta reducir el grupo, y entonces pregunta dentro de un subconjunto pequeño.
• buckets: reparte el alfabeto en varias preguntas en paralelo, cada una con una opción OTHER. Es la única estrategia que soporta más de 255 símbolos, y permite vocabularios grandes como bpe5k.
• refine: primero buckets, luego una pregunta sobre los ganadores y luego un núcleo re-evaluado. Según el README, esta variante pone "el doble de probabilidad en el símbolo correcto y resuelve ~19 veces más vocabulario".

Hay además dos presentaciones —symbol (opciones como 'a', 'i', ' the') y hypothesis (opciones como '…he capital of France is Para')—. El propio repo afirma que la presentación hypothesis "roughly triples top-1 and doubles the probability mass" sobre alfabetos de caracteres. Y existe un modo beam search con -b 3 para mantener varias respuestas candidatas vivas a la vez, ordenadas por probabilidad y no por muestreo.

Por qué jevchat NO es un chatbot real (ni pretende serlo)

Lo importante es leer la letra chica. Jev es un modelo de decisión: recibe un estado y devuelve Choice, Score o Noul con probabilidades, según Forkast. No genera texto libre — y por construcción no alucina, pero también no puede mantener una conversación abierta, escribir código ni redactar documentos. Forzarlo a generar carácter por carácter es como usar un destornillador eléctrico para clavar un clavo: funciona, pero el costo y la latencia son absurdos.

Para poner cifras en perspectiva, Marktechpost documenta que Jev cuesta US$0,042 por millón de tokens de entrada y que el output es gratuito ("too cheap to meter"). En una demo interna de TypeSafe, Jev terminó una tarea en 0,114 segundos por US$0,000081, frente a los 8,566 segundos por US$0,013880 de un LLM frontier. La diferencia crucial: esa demo usaba una sola llamada bien formada; jevchat hace una llamada por símbolo, lo que multiplica el costo y la latencia por la longitud de cada respuesta.

El proyecto incluye comandos para chatear interactivamente (poetry run jevchat), preguntar una sola cosa (… ask "…"), listar los alfabetos disponibles (… alphabets) y comparar todas las combinaciones en una tabla (… bench). También expone un panel en vivo con símbolos/s, caracteres/s y milisegundos por llamada, para ver cómo se va dibujando la distribución en cada paso.

Qué significa esto para tu startup

Jevchat es, ante todo, un experimento creativo — el autor lo describe como "Claude-accelerated": él describió los algoritmos y Claude los implementó. Pero sí deja tres lecciones prácticas para founders:

• Antes de elegir modelo, mapea qué tipo de decisión necesitas. Si vas a enrutar tickets, clasificar leads o puntuar calidad de copy, un modelo de decisión como Jev puede resolverlo con menor latencia y costo que un LLM generativo. Si necesitas redactar o razonar en abierto, un LLM sigue siendo la herramienta correcta.
• El sampling importa más de lo que parece. Estrategias como refine o el truco de la presentación hypothesis muestran que la forma de presentar las opciones a un modelo cambia radicalmente su accuracy — y eso vale también con cualquier LLM que use function calling o salidas estructuradas.
• Un prototipo lento puede ser didáctico. Aunque jevchat no es un chatbot viable, su panel en vivo (símbolos/s, distribución muestreada paso a paso) es un material didáctico excelente para mostrarle a un equipo cómo funciona realmente el muestreo autoregresivo, mucho mejor que cualquier diagrama.

Fuentes

• jevchat (GitHub)
• TypeSafe AI Releases Jev: A System One Model — Marktechpost
• TypeSafe AI's Jev Is Not an LLM — Forkast