Raschka lanza curso de 11 horas sobre razonamiento en LLM

Un curso de 11 horas para entender los modelos de razonamiento desde el código

Sebastian Raschka publicó ocho videos, unas 11 horas de contenido, que acompañan a su libro Build a Reasoning Model (From Scratch). El punto de partida no es un modelo entrenado desde cero: es un Qwen3 de 0.6B ya preentrenado, sobre el que se implementan en Python y PyTorch las técnicas que convierten un LLM convencional en un modelo de razonamiento: evaluación, escalado en inferencia, aprendizaje por refuerzo y destilación.

Para un founder técnico la relevancia es directa. Casi todos los LLM de generación actual son modelos de razonamiento o traen un modo de razonamiento, y entender cómo se construyen deja de ser curiosidad académica para volverse criterio de decisión: qué modelo usar, cuánto cómputo pagar y cuándo conviene destilar en lugar de entrenar.

¿Qué es un modelo de razonamiento y en qué se diferencia de un LLM normal?

Según la explicación del propio autor, un modelo de razonamiento es un upgrade de un LLM convencional: se le agrega post-entrenamiento con reinforcement learning con recompensas verificables (RLVR) y, opcionalmente, técnicas de escalado en inferencia. Clásicamente se desarrollan para matemáticas y código, aunque las capacidades pueden generalizar a otros dominios de problema.

La analogía que usa Raschka es la del motor. El modelo es el motor, y el agent harness es la maquinaria alrededor —gestión sofisticada de contexto y acceso a herramientas— que permite usarlo para tareas más complejas que un simple chat. Un agente puede funcionar con un LLM convencional, pero los modelos de razonamiento son la opción típica porque son más capaces.

Esa distinción importa más de lo que parece: si el modelo es el motor, la ventaja competitiva de la mayoría de los productos de IA no está en entrenar uno propio, sino en la maquinaria que lo rodea.

Los 8 videos: de la evaluación a la destilación

El curso está diseñado como secuencia, y cada video tiene su capítulo de código en el repositorio del autor:

• 1. Motivación y setup. Relación entre LLM, modelos de razonamiento y agentes; instalación de dependencias con uv, elección de hardware, verificación de soporte CUDA o Apple Silicon y uso de una GPU remota con VS Code.
• 2. Cargar el modelo base, generación de texto y KV caching. Carga de los pesos de Qwen3 0.6B, decodificación greedy, generador con streaming, KV cache y torch.compile para comparar rendimiento de hardware.
• 3. Verificador para evaluación y RL. Construcción paso a paso de un verificador de respuestas matemáticas —extracción, normalización y comprobación de equivalencia— que evalúa el modelo base en MATH-500 y luego se reutiliza como señal de recompensa.
• 4. Escalado en inferencia: sampling y self-consistency. Temperature scaling, muestreo multinomial y filtrado top-p para generar respuestas diversas, combinadas después por voto mayoritario. Incluye el análisis del trade-off entre precisión y cómputo adicional.
• 5. Escalado en inferencia: scoring y self-refinement. Funciones de puntuación, probabilidades de token y de secuencia —con log-probabilidades por estabilidad numérica— y un bucle en el que el modelo critica su propia respuesta y la revisa.
• 6. RL: GRPO para RLVR. Implementación simplificada de Group Relative Policy Optimization: generar grupos de respuestas, puntuarlas con el verificador y usar sus recompensas relativas para actualizar los pesos. También compara RLHF con RLVR.
• 7. RL: métricas, ratios recortados y términos KL. Entropía y estadísticas de ventajas, clipping en la pérdida de política, término KL y reward hacking, más recompensas de formato condicionadas a la corrección de la respuesta.
• 8. Destilar un modelo de razonamiento. Distilación blanda y dura, on-policy y off-policy, con respuestas generadas por un profesor más grande (DeepSeek R1) sobre el dataset MATH, preparación del set de destilación y evaluación final del modelo destilado en MATH-500.

El recorrido cierra con dos caminos distintos para llegar al mismo lugar: reforzar el modelo con recompensas verificables o aprender de las respuestas de uno más grande.

¿Qué necesitas para seguir el curso?

Raschka recomienda estar cómodo con Python y PyTorch. El material está pensado como contenido autónomo: su curso previo, Coding LLMs from the Ground Up, es recomendable pero no obligatorio. En cuanto a cómputo, los ejemplos iniciales de generación de texto y evaluación corren en CPU; para los experimentos de entrenamiento, una GPU hace el trabajo mucho más práctico.

El libro que acompaña al curso —Build a Reasoning Model (From Scratch), disponible en Manning y Amazon, con edición impresa a color— tiene 440 páginas y salió con Manning en agosto de 2026, según el listado de novedades de I Programmer. El autor sugiere leer un capítulo, trabajar su código junto al video correspondiente y después resolver los ejercicios. Para quien solo quiera el panorama conceptual, hay además un curso de unos 90 minutos en LinkedIn Learning que cubre las ideas de escalado en inferencia, RL y destilación sin entrar en las implementaciones completas.

¿Qué significa esto para tu startup?

Primero: monta tu propio verificador antes de cambiar de modelo. La pieza más subestimada del curso es la del video 3. Un verificador de respuestas es lo que convierte una corazonada en una métrica: sin un set de evaluación con respuestas comprobables automáticamente, no tienes forma de saber si el modelo nuevo que estás evaluando mejora tu caso de uso o solo suena mejor. Si tu producto hace cálculos, extracción de datos, validación o generación de código, ese verificador se puede construir con reglas simples y reutilizarse como señal de recompensa más adelante.

Segundo: mide el costo real del razonamiento antes de escalarlo. Las técnicas de self-consistency y self-refinement mejoran respuestas sin tocar los pesos, pero multiplican el cómputo por cada candidato extra que generas. El curso insiste en evaluar la precisión contra el costo de inferencia adicional: haz ese ejercicio con tus propios datos y decide si te conviene pagar más tokens por respuesta o cambiar de estrategia.

Tercero: evalúa la destilación como palanca de margen. Si ya pagas por un modelo grande de frontera, el video 8 muestra el pipeline completo para usar sus respuestas como datos de entrenamiento de un modelo chico: recolectar respuestas del profesor, tokenizar, armar splits de entrenamiento, validación y test, y entrenar de forma supervisada. Para un equipo con GPU disponible, es una ruta concreta para bajar el costo por inferencia sin perder la capacidad que ya validaste.

Cuarto: úsalo como plan de capacitación interno. El material es una ruta de formación de bajo costo para cualquier desarrollador de tu equipo que ya sepa PyTorch y quiera dejar de tratar los LLM como caja negra. Once horas de contenido aplicado rinden más que un curso genérico de prompt engineering cuando lo que necesitas es tomar decisiones de arquitectura.

Conclusión

El aporte del curso no es una técnica nueva, sino el acceso al código de técnicas que hasta ahora vivían en papers y repositorios dispersos. Para un founder, eso se traduce en criterio: entender por qué un modelo razona mejor, cuánto cuesta ese razonamiento y qué alternativas existen para producirlo sin depender de un solo proveedor.

Vale la pena ser claro sobre los límites de esta nota: la búsqueda de datos adicionales no arrojó cifras de mercado verificables sobre adopción de modelos de razonamiento, así que el artículo se limita a lo publicado por el autor y al registro editorial del libro. Lo verificable es suficiente para actuar: el material es público, el código está disponible y el único costo de entrada es tu tiempo.

Fuentes

• Sebastian Raschka — Building Reasoning Models (From Scratch), video course (fuente original)
• I Programmer — Build a Reasoning Model From Scratch (Manning)