AI Engineer Notebooks: 12 módulos gratis para FDE en Colab

¿Qué es AI Engineer Notebooks y por qué importa para founders?

AI Engineer Notebooks es un repositorio de notebooks de Colab diseñado para enseñar el stack aplicado de LLM sin frameworks, desde prompting hasta serving, fine-tuning y un benchmark de red-team, todo ejecutable con la API gratuita de Groq y sin tarjeta de crédito. El repo, publicado en GitHub bajo el usuario calmrocks, llega en un momento clave: según el estudio de la firma de búsqueda ejecutiva Christian & Timbers, en Estados Unidos solo existen alrededor de 2.000 ingenieros con el perfil completo de Forward Deployed Engineer (FDE) y la demanda empresarial se proyecta a crecer 2.100% hacia fin de año.

Un FDE (Forward Deployed Engineer) es un ingeniero que trabaja metido dentro del cliente, no desde la oficina del proveedor: integra datos, configura flujos y deja software funcionando en el entorno real del cliente. Es el rol que popularizó Palantir y que hoy están contratando Anthropic, OpenAI, Stripe, Google Cloud y grandes consultoras como McKinsey y BCG. Para un founder técnico hispanohablante, formarse en este perfil deja de ser opcional: la ventana entre "saber usar la API" y "saber entregar un sistema que un cliente pague y mantenga" es justo lo que AI Engineer Notebooks intenta cerrar.

Qué cubre el programa: 12 secciones de prompting a serving

El repo organiza el contenido en doce secciones secuenciales, cada una con notebooks autocontenidos (instalan sus propias dependencias y leen las claves de los secretos de Colab):

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

01 — Prompting y API: prompting fundamentals, structured output, tool calling, streaming y context/caching.
02 — Evals I: cómo medir outputs antes de tocar nada; instala el hábito de "medir antes de tunear".
03 — RAG: el loop retrieve → augment → generate en 15 líneas, embeddings, retrieval, híbrido + rerankers, chunking y diagnóstico de por qué falla un RAG.
04 — Evals II: golden sets, LLM-as-judge y evals como CI para cazar regresiones al cambiar prompt o modelo.
05 — Agentes: agent loop escrito a mano en llamadas crudas a la API, diseño de tools, guardrails y MCP.
06 — Adaptación: cuándo fine-tunear vs RAG vs prompt, con un apéndice opcional de LoRA real en una GPU T4 gratuita de Colab.
07 — Seguridad: prompt injection directa e indirecta, OWASP LLM Top 10, manejo de outputs y PII.
08 — Observabilidad: tracing, logs seguros, métricas de costo/latencia/error y MLflow end-to-end.
09 — Serving: vLLM, TGI, Triton y TensorRT-LLM, más continuous batching, KV cache y cuantización.
10 — Diseño de sistemas ML: QPS/VRAM/latency/cost, replicas, colas y SLAs.
11 — Customer craft: discovery, scoping y demo discipline, la ronda de entrevista que más ingenieros no pueden evidenciar.
12 — Casos y capstone: tres casos end-to-end y un proyecto deployable para el CV.

Los tres case studies son la parte más interesante para founders: un asistente de soporte que pasa por una regresión real de calidad cuando se migra el corpus; un head-to-head pipeline vs agente sobre extracción de contratos, donde se demuestra con tokens y accuracy cuándo gana un pipeline determinista; y un benchmark de red-team con un loop atacante→target→juez estilo PAIR para medir attack success rate.

Por qué framework-free: cuando los wrappers cambian y los patterns quedan

La tesis del repo es incómoda y útil: los frameworks (LangChain, LlamaIndex y compañía) cambian rápido; los patrones por debajo duran. Escribir el agent loop, el RAG y los evals con llamadas crudas a la API primero obliga a entender qué hace cada wrapper y, sobre todo, cuándo no lo necesitas. Para una startup que está eligiendo arquitectura, esa es exactamente la decisión correcta: el 70% de las empresas planea contratar FDEs a mitad de 2026 según Christian & Timbers, y la mayoría de los pilotos de IA generativa no entregan valor de negocio — un reporte del MIT Media Lab de 2025, citado por Forbes, estima que alrededor del 95% de los pilotos de IA generativa fallan en generar retorno claro. Saber qué hay debajo del framework ayuda a no ser parte de esa estadística.

El repo refuerza esto con dos decisiones pedagógicas que cualquier founder debería copiar:

Evals como columna vertebral, no como paso final. La sección 02 se mete antes de RAG y agentes para que cada decisión posterior tenga un número al lado.
OpenAI-compatible de punta a punta. Todo lo que se aprende transfiere directo a OpenAI y, con cambios menores, a Anthropic. El seam (la interfaz) se cambia; los skills no.

Además, el capstone es un repo real con componente de serving y reporte de eval: la diferencia entre quien "corrió un notebook" y quien "desplegó un sistema y puede mostrar el eval" es la misma que separa a quien pasa de junior a senior en AI Engineer o FDE.

El mercado detrás: por qué un repo gratuito importa ahora

La economía del rol explica por qué un recurso gratuito y bien curado tiene valor inmediato. Business Insider reportó en mayo de 2026 que las ofertas de empleo para FDE en Indeed estaban 5.230% por encima del nivel de enero de 2025, con salarios en Estados Unidos que oscilan entre US$170.000 y más de US$200.000. Anthropic lanzó Ode with Anthropic, un servicio centrado en FDE, y OpenAI creó Deployment Company con el mismo objetivo, según TechCrunch. Google Cloud también está escalando hiring para el rol.

Para founders en LATAM y España esto significa tres cosas concretas. Primero, hay una ventana real para construir un equipo de Applied AI con costos mucho menores que en EE.UU., vendiendo a clientes globales. Segundo, el perfil que demandan las empresas (FDE con experiencia de dominio) no se compra con un curso de fin de semana: se construye con práctica deliberada, exactamente lo que propone este repo. Tercero, el costo de equivocarse en arquitectura de IA sigue subiendo: según Forbes, el 46% del negocio de Palantir (~US$2.100M anuales) viene de clientes comerciales que pagan por deployments custom precisamente porque las soluciones estándar no les servían — el resto del mercado está abierto a quien entregue mejor.

¿Qué significa esto para tu startup?

Más allá del CV, el repo sirve como plantilla de arquitectura mínima para un producto de IA. Las decisiones que toma el programa (evals primero, framework-free cuando se puede, MCP como protocolo estándar, MLflow para tracking, LoRA solo cuando RAG no alcanza) son las mismas que un CTO tiene que defender en una junta o ante un cliente enterprise.

Tres acciones concretas que podés implementar esta semana:

Mapea tu sistema actual contra las 12 secciones. ¿Tenés golden set y LLM-as-judge? ¿Tenés tracing de cada llamada con costo y latencia? ¿Tenés un eval corriendo en CI cuando cambiás un prompt? Lo que falte es, literalmente, tu backlog de hardening.
Entrená a tu equipo en modo framework-free durante dos sprints. Antes de agregar LangChain o LlamaIndex, hacé que el equipo escriba el loop a mano para tu caso de uso. Si después de eso el framework sigue sumando, úsenlo; si no, se ahorraron una dependencia y un upgrade forzoso.
Definí el capstone antes de contratar al próximo AI engineer. El brief del capstone del repo (repo deployable + eval report) es un test de entrevista mejor que cualquier take-home genérico: te dice si la persona sabe cerrar un sistema, no solo si sabe abrir un notebook.

Si tu startup está en modo build, corré las secciones en orden con un ingeniero senior al lado. Si está en modo sell, usá los case studies como base de tus demos y mostrale al cliente el eval report junto con la arquitectura.