Un pipeline que clasifica 4.000 títulos por 16 centavos
Un job de producción que ordena unos 250.000 títulos de trabajo por persona y función corrió en una prueba de 4.000 registros en 66 segundos por 16 centavos usando Jev, según reportó Astronomer a VentureBeat. La misma tarea con la función AI_CLASSIFY de Snowflake habría costado entre 11 y 21 dólares a precio de lista.
Esa diferencia de dos órdenes de magnitud es la razón por la que los modelos de decisión dejaron de ser un experimento de laboratorio y se metieron en el stack de datos. Para un founder con un pipeline que procesa millones de filas al día, la pregunta ya no es si conviene mirar esta categoría, sino dónde encaja.
¿Qué es un modelo de decisión y en qué se diferencia de un LLM?
Un modelo de decisión, también llamado System One model, no escribe texto. Recibe una entrada y devuelve un valor tipado: una opción de una lista fija, un puntaje en una escala ordenada o una probabilidad de sí/no. Cada respuesta viene con un valor de confianza.
Leíste lo que hace la IA. ¿Y en tu negocio?
En CAR, dueños de empresa arman en 7 días su primer sistema funcionando: que ningún cliente se les escape, o que el informe del lunes salga solo. Con otros emprendedores al lado.
👥 Probar 7 díasLa diferencia práctica está en el formato de salida. Michael Leone, VP y analista principal de Moor Insights & Strategy, lo resumió así a VentureBeat: un modelo de chat entrega un párrafo que hay que parsear, mientras un modelo de decisión devuelve una etiqueta y una probabilidad que caen directo en una columna que puedes filtrar, unir y reportar como cualquier otro dato del warehouse.
Pavan Pothukuchi, head of AI platform de Snowflake, planteó la regla de decisión: si SQL simple resuelve el caso —un valor sobre un umbral, un match de keyword— usa SQL, porque es más barato y sabes exactamente qué hace. El modelo de decisión entra cuando la respuesta depende de lenguaje o juicio difuso y el job corre sobre miles o millones de filas. Los resúmenes, la extracción libre y el razonamiento multi-paso siguen necesitando un LLM general.
El punto de partida de la categoría fue el lanzamiento de Jev por parte de TypeSafe AI el 15 de septiembre. Según Crypto Briefing, TypeSafe salió de stealth ese mismo día con una ronda semilla de US$40M liderada por DCVC y una valoración post-money de aproximadamente US$200M, y semanas después estaba en conversaciones para levantar más de US$1.000M a una valoración superior a US$10.000M. El mismo medio reporta que Jev opera con una latencia de entre 70 y 500 milisegundos y un precio de US$0,042 por millón de tokens de entrada.
¿Cómo lo están integrando Databricks, Snowflake y MotherDuck?
Las plataformas de datos reaccionaron rápido y cada una eligió un camino distinto.
- Databricks tomó dos rutas: correr SemIf-OpenJev, un proyecto comunitario de pesos abiertos, sobre GPUs serverless y llamarlo desde SQL vía
ai_query; y lanzar ai_decide, una función SQL en beta que la compañía describe como compatible con la API de TypeSafe. - Snowflake puso Snowflake Decision en private preview a través de la función AI_COMPLETE dentro de Cortex AI Functions. Pothukuchi señaló que el modelo corre dentro del perímetro de seguridad de Snowflake bajo la gobernanza existente, y que están sumando una versión de menor latencia llamada Snowflake Decision Fast y acceso vía Cortex REST API, sin dar fecha.
- MotherDuck agregó una función SQL
prompt_jev()a sus planes pagos. En un benchmark propio sobre 100.000 artículos de noticias de un dataset público de cuatro temas, reportó que Jev etiquetó las filas en 40 segundos por 50 centavos con 89% de precisión, contra un modelo de OpenAI que logró 88% en casi 32 minutos por US$37,58.
También hay extensiones comunitarias que meten a Jev dentro del motor SQL: una para DuckDB y otra para PostgreSQL.
Los tres patrones de uso que ya aparecen en producción
Pothukuchi identificó cinco patrones en clientes: entender sentimiento de usuario, clasificar documentos o tickets, enrutar agentes de IA, hacer matching de datos entre sistemas y tomar decisiones operativas o de riesgo. Tres casos concretos muestran cómo se ven en la práctica.
Clasificación y scoring. El job de Astronomer ordena títulos de trabajo por persona y función, un problema clásico donde «Head of Growth» puede caer en marketing, ventas o producto según el contexto.
Matching de entidades. Southbridge AI usó Jev para resolver donantes y comités en registros de financiamiento de campañas de Ohio. En su reporte, un pipeline que usó Jev como caballo de batalla y un segundo modelo para revisar los casos inciertos recortó los costos de modelo en 99,56% frente a un modelo frontera.
Control de pipelines. Astronomer dijo que el soporte de Jev llega en una próxima versión del paquete Airflow common AI provider. Un operador puede ramificar el workflow según la respuesta del modelo y retener filas por debajo de un umbral de confianza para revisión humana. Una política de reintento separada le pregunta al modelo qué tipo de falla ocurrió, de modo que un error de permisos falla de inmediato mientras un error de red reintenta tras una espera corta.
¿Qué significa esto para tu startup?
La categoría se está poblando rápido. AWS liberó Strands Decider 2B el 1 de octubre, un modelo de 1.900 millones de parámetros construido sobre Qwen3.5-2B con pesos abiertos bajo licencia Apache-2.0, que según Marktechpost corre localmente en CPU, GPU de consumo o Apple Silicon con una latencia mediana de 115 ms en una RTX 3090. TechCrunch reportó que OpenAI anunció una oferta similar la misma semana, y que Cloudflare también entró al espacio.
Para un equipo pequeño, esto cambia el cálculo de tres maneras:
- Audita tus jobs de clasificación antes de tocar nada. Si tienes un pipeline que llama a un LLM general para etiquetar tickets, correos o registros, mide cuántas filas procesa y cuánto cuesta. Ese número es tu línea base y el argumento con el que justificas el cambio.
- Empieza por la función SQL, no por la infraestructura. Si ya vives en Snowflake, Databricks o DuckDB, la barrera de entrada es una función en una query, no un proyecto de MLOps. Prueba con un subconjunto etiquetado a mano y compara precisión contra costo.
- Diseña el umbral de confianza desde el día uno. El valor real del score no es automatizar todo, sino decidir qué filas van solas y cuáles van a un humano.
¿Qué revisar antes de adoptar un modelo de decisión?
Stephanie Walter, practice leader de AI stack en HyperFRAME Research, advirtió a VentureBeat que la comparación debe incluir ML tradicional y reglas, no solo LLMs caros, y que elegir por precio no basta: hay que mirar precisión, esfuerzo de mantenimiento y costo total.
El otro punto es la calibración. Leone alertó que los scores de confianza deben validarse contra tus propios datos antes de actuar sobre ellos, porque un modelo que se ve seguro en los datos de prueba del proveedor puede equivocarse mucho más seguido en los tuyos. Marktechpost reporta que en Strands Decider 2B las respuestas con confianza de 0,9 o más acertaron cerca del 95% de las veces en tareas de clasificación cortas no vistas, y que el equipo recomienda confirmar o escalar por debajo de ese umbral.
Conclusión
La pelea que viene no es por quién tiene el modelo más inteligente, sino por quién define las respuestas permitidas y quién audita las decisiones. Como dijo Leone, alguien tiene que decidir a qué equipos puede ir un ticket o qué cuenta como reclamo sospechoso, y esa es una decisión de negocio que suele quedar enterrada en un pipeline.
Para un founder, esa es la oportunidad: el equipo que documenta y gobierna esas reglas gana influencia sobre cómo opera la empresa. Y el momento de escribir esas reglas es ahora, mientras la categoría todavía se está armando.
Fuentes
- Decision models like Jev handle what SQL rules cannot (fuente original)
- TypeSafe AI seeks $1B in funding as Jev model gains traction
- Amazon releases its own Jev clone as decision models flood the web
- AWS Strands Labs Releases Strands Decider 2B
- Kognitos Partners with TypeSafe AI
Leíste lo que hace la IA. ¿Y en tu negocio?
En CAR, dueños de empresa arman en 7 días su primer sistema funcionando: que ningún cliente se les escape, o que el informe del lunes salga solo. Con otros emprendedores al lado.
👥 Probar 7 días
