Lightreason, el repo que acelera Qwen en una RTX 4090
¿Qué es Lightreason y qué mide exactamente? El repositorio de Lightreason documenta un salto de 63,0 a 139,6 tokens por segundo en Qwen2.5-3B-Instruct corriendo sobre una sola RTX 4090, medido a lo largo de seis prompts. Es la cifra que cualquier fundador que haya intentado servir un modelo local mira primero: el mismo hardware, el …









