Qwen3-4B sin muletillas de IA: modelo de 2,5 GB

Un Qwen3-4B escribió un post de LinkedIn sobre la semana laboral de cuatro días sin un solo guion largo. El autor, que publica en Hugging Face bajo el identificador erikkannike, entrenó una versión de 4.000 millones de parámetros para eliminar los tics que delatan a la IA generativa: su propio detector da 121 puntos al modelo original y 12,5 a la versión que liberó, con un archivo cuantizado de 2,5 GB que corre en una laptop.

Para un founder que publica contenido o integra un LLM en su producto, el experimento vale más que el modelo en sí: describe un método replicable para bajar el tono impersonal de la IA y, sobre todo, muestra con números qué se rompe cuando lo aplicas.

¿Qué tics de escritura de la IA detecta el modelo?

El detector no es magia: es una guía de estilo escrita como expresiones regulares. Cuenta hábitos de escritura, cada uno con un peso, y devuelve una puntuación ponderada por cada 1.000 palabras:

• El guion largo
• La construcción del tipo "no es X, es Y"
• Las listas de tres elementos
• Las preguntas retóricas que el propio texto responde enseguida
• Los señaladores tipo "he aquí la cuestión"
• Los fragmentos cortos para dar énfasis
• Palabras como "delve" o "seamless"

Un párrafo de un escritor humano cuidadoso ronda el cero. El Qwen3-4B original promedia 121.

Esos indicios no son una impresión subjetiva. Según un análisis publicado en The Conversation, el guion largo fue el primero y el más burlado de los delatores, y vocablos como delve, meticulous, underscore, boast e intricate aparecen hoy con mucha más frecuencia en resúmenes científicos indexados en PubMed que antes de 2022, en un patrón que los investigadores vinculan al estilo de ChatGPT. El mismo artículo lo deja claro: ninguna palabra prueba nada por sí sola, lo que delata es la acumulación.

¿Cómo se destila un modelo de IA generativa para que escriba como humano?

El autor no empezó por el entrenamiento. Su primer experimento aisló el "registro asistente" como una dirección dentro del modelo: restarla mientras generaba texto, junto con un system prompt de estilo llano, bajaba la puntuación a unos 15 puntos. El problema es que dependía de tener el prompt y el código corriendo durante la generación, y alteraba las predicciones del modelo sobre texto normal.

Un segundo experimento leyó neuronas una por una y encontró cuatro cuyo cambio de signo elimina el 70% de los "no es X, sino Y" a casi ningún costo, aunque solo para ese hábito.

Para meter todo eso dentro de los pesos usó destilación. Un modelo teacher responde 288 prompts de entrenamiento; se conservan únicamente las respuestas que pasan los chequeos de daño, y un adaptador LoRA pequeño aprende a reproducirlas desde el prompt pelado. La primera ronda llegó a unos 20 puntos sin prompt y sin hooks.

En la segunda ronda el teacher fue el modelo de la ronda uno más el parche de cuatro neuronas y el prompt de estilo llano. Ese teacher promedió 7,4 y el estudiante entrenado con sus 171 mejores respuestas puntuó 9,9, con el 80% de sus respuestas dentro del rango humano.

¿Qué se rompe cuando le quitas los tics a un LLM?

Aquí está la parte más honesta del experimento y la más útil para cualquiera que ajuste un modelo. Los problemas que aparecieron en la ronda dos fueron concretos:

• Una columna de opinión sobre el nuevo CRM de una empresa nunca tomaba posición: se leía como un reporte de incidentes.
• Un post sobre mudarse a una ciudad nueva derivó en una historia en tercera persona sobre una familia con un departamento con filtraciones.
• Un texto sobre plantas de interior citaba "un estudio de la University of Technology Sydney" que el modelo había inventado.
• Casi cada oración se encadenaba con ", which" o ", so", 28 veces más seguido que en el modelo original.

Ese último vicio venía del propio prompt del autor, que le pedía al modelo unir oraciones "con because, so, but, which". Dos rondas de imitación lo amplificaron hasta convertirlo en un tic propio.

La solución fue agregar chequeos basados en reglas sobre si la respuesta hace lo que el prompt pidió: una opinión tiene que tomar posición temprano, una reflexión personal va en primera persona, un email abre con saludo y el largo debe coincidir con lo pedido. Sumó contadores de ", which", ", so" y de estudios o porcentajes inventados. Medida así, la ronda dos cumplía la tarea solo el 60% de las veces, contra el 78% del modelo original.

El tercer teacher recibió un prompt que pone la tarea primero. Escribía tres respuestas por prompt y solo se conservaba la que puntuaba bajo 12 y pasaba todos los chequeos. Aprobó cerca del 30%, lo que cubrió 161 de los 288 prompts.

El modelo entrenado con esas respuestas es el que se publicó. Su puntuación subió levemente, de 9,9 a 12,5, mientras el cumplimiento de tarea volvió al 80% y los encadenados con ", which" cayeron de 1,4 a 0,3 por cada 100 palabras. Los estudios y porcentajes inventados prácticamente desaparecieron.

¿Qué sigue fallando en el modelo publicado?

• La voz es plana. Escribe ráfagas de oraciones declarativas cortas y sus textos personales se leen como entradas de diario.
• Sigue inventando. Ya no inventa estudios, pero sí nombres y lugares: una cafetería en Maple Street atendida por una mujer llamada Maria. Cada ronda premió el detalle concreto, así que el detalle concreto es lo que el modelo fabrica.
• Se pasa de largo. Los pedidos de "unas 150 palabras" suelen llegar cerca de 200.
• Cobertura limitada. Solo se probó prosa breve en inglés dentro de esos géneros. Código, conversaciones largas, otros idiomas y uso de herramientas pueden estar igual o peor que el original.
• El medidor tiene dueño. El detector es la guía de estilo del propio autor escrita como regex y todavía no pasó por un test ciego con lectores. Además, los números se mueven entre corridas: el mismo modelo dio 10,2 a través del adaptador y 12,5 como pesos fusionados.

¿Qué significa esto para tu startup?

El método se puede copiar, y el contexto de mercado lo hace más relevante. Alibaba publicó Qwen3 en abril de 2025 con seis modelos densos de 0,6B a 32B bajo licencia Apache 2.0, según el repaso de Marktechpost, y para marzo de 2026 acumulaba más de 400 modelos abiertos y más de 1.000 millones de descargas.

La tendencia corre hacia lo chico. The Next Web reportó que la versión en 4 bits de Qwen3.8-27B pesa unos 17 GB y que, según datos de Hugging Face difundidos por Business Insider, los modelos de más de 70.000 millones de parámetros representaron apenas una porción menor de las descargas de 2026. Ajustar un modelo propio dejó de ser un proyecto de laboratorio.

Tres cosas que puedes hacer esta semana:

1. Arma tu propio detector de estilo. Convierte tu guía de estilo en reglas contables y pásalas sobre tus textos publicados y sobre lo que genera tu LLM. Es barato, repetible y te da una línea base antes de tocar cualquier prompt.
2. Copia la lógica de la destilación, no el modelo. Define tus reglas, genera varias respuestas por prompt con tu mejor modelo, conserva solo las que pasan los filtros y entrena un adaptador pequeño sobre ese subconjunto. El pipeline del experimento cabía en una MacBook Air; un LoRA de 126 MB no necesita presupuesto de laboratorio.
3. Mide dos cosas a la vez, siempre. Estilo y cumplimiento de tarea. Este caso demuestra que optimizar la primera degrada la segunda, y que basta un prompt de entrenamiento mal escrito para instalar un vicio nuevo.

Conclusión

El propio autor reconoce el techo del método: cada estudiante terminó tan bueno como las mejores respuestas que su teacher podía escribir, así que un modelo mejor exige un teacher mejor. Su siguiente paso es armar un corpus de escritura humana excelente para usarlo como referencia, y después repetir el pipeline en modelos de 7 a 8B y de unos 30B, con un test ciego donde las personas elijan el mejor texto.

Mientras eso llega, la lección para quien construye producto es doble. Los tics de la IA se pueden medir y reducir dentro de los pesos de un modelo, sin depender de prompts frágiles. El precio es que el modelo pierde adherencia a la tarea y empieza a rellenar huecos con nombres inventados. Cualquiera que ajuste un LLM para que escriba como su marca debería medir los dos indicadores juntos, no solo el primero.

Fuentes

• Show HN: Qwen3-4B with the AI writing tics trained out (fuente original)
• The Story of Qwen: Alibaba's AI Models From 7B to 2.4T (Marktechpost)
• Alibaba's new small model runs on a laptop and scores like a cloud one (The Next Web)
• Can you teach yourself to detect AI writing? Maybe (The Conversation)