PS5LM: una PS5 con jailbreak corre un LLM privado en casa

¿Qué es PS5LM y cómo corre llama.cpp dentro de una consola?

Un modelo de 27.000 millones de parámetros generando alrededor de 20 tokens por segundo dentro de una consola de videojuegos. Eso es lo que reporta PS5LM, un port de llama.cpp que corre sobre la GPU RDNA 2 de la PlayStation 5 mediante el backend Vulkan y reserva 11,4 GB de memoria compartida para el modelo y su contexto.

La parte interesante no es el benchmark: es que funciona como servidor. Cualquier dispositivo de tu red puede apuntar a la consola y usar el modelo cargado, sin necesidad de un PC encendido, sin nube y sin cuenta.

El proyecto requiere una PS5 con firmware entre 7.00 y 13.60 y jailbreak, con payloads como kstuff-lite, etaHEN y ShadowMountPlus. Con el modelo cargado, la consola expone endpoints compatibles con OpenAI (/v1/chat/completions) y con Anthropic (/v1/messages) — el propio README señala que Claude Code funciona contra ella — además de una página de chat accesible desde el navegador. Todo se controla con el joystick: Square lanza una petición de prueba, Triangle abre un teclado, y cada request se ve en streaming en el televisor.

También carga modelos de decisión del ecosistema Ollaya — d1 Omni 600M, d1 3B y Clef Flash — y responde en /v1/systemone con decisiones tipadas y probabilidades calibradas, sin generar texto. Según el proyecto, un d1 Omni 600M de 1,1 GB resuelve tres preguntas en 0,3 segundos.

¿Qué tan rápido corre un modelo de IA en una PS5?

Estos son los números que el propio proyecto publica para una PS5 Slim:

• Qwen 3.5 0.8B (Q4KM, 0,5 GB): 207 tokens por segundo.
• Qwen 3.5 9B (Q4KM, 5,3 GB): 55 tokens por segundo.
• Qwen 3.8 27B (UD-Q2KXL, 9,2 GB): alrededor de 20 tokens por segundo con contexto de 64k.
• d1 Omni 600M (modelo de decisión, 1,1 GB): tres preguntas en 0,3 segundos; una imagen en 720p más siete preguntas en 2,9 segundos.

GadgetReview revisó esos resultados y aporta dos matices que conviene leer antes de ilusionarse. El primero: son benchmarks del proyecto, no mediciones de un laboratorio independiente, y dependen del formato de cuantización, del largo del contexto y de la temperatura de la consola. El segundo es la comparación más elocuente: sin aceleración por GPU, el mismo modelo de 27B en la CPU de la PS5 rinde alrededor de un token por minuto. La GPU no es un detalle: es todo el proyecto.

El mismo medio recoge que durante la prueba del modelo grande la GPU trabajó al 100%, con un consumo del SoC de aproximadamente 86 vatios y la GPU a unos 54 °C. Y menciona cifras de la documentación de PS5LM Plus, el proyecto previo del que este se derivó: Gemma 4 E4B a unos 61 tokens por segundo y Llama 3.2 3B hasta unos 124.

¿Un servidor de modelos local sale más barato que la nube?

Acá el experimento de la PS5 deja de ser una anécdota y se vuelve una decisión de infraestructura. TechTimes hizo la cuenta para un desarrollador que paga Claude Code Max (US$200 al mes), ChatGPT Pro (US$200), Cursor (US$20) y Gemini Advanced (US$20): US$440 mensuales, unos US$5.280 al año antes de excesos de API o asientos de equipo.

Según ese artículo, una mini PC con 128 GB de memoria unificada se consigue en configuraciones de terceros por unos US$1.500 a US$1.800, mientras que el equipo propio de AMD abrió preventas en junio de 2026 a US$3.999. Con esa referencia, el hardware se amortiza en nueve o diez meses frente a las suscripciones, y después la inferencia cuesta solo electricidad: entre US$9 y US$12 al mes en modo de alto rendimiento. El propio artículo aclara el límite del cálculo: aplica si realmente sustituyes consumo de modelos open-weight, no si tu trabajo depende de modelos frontera.

También ayuda a calibrar expectativas de velocidad. En esa mini PC, un modelo denso de 70B corre a unos 5 tokens por segundo y un MoE de 235B a unos 11. Un 27B cuantizado a ~20 tokens por segundo en una consola usada queda, como mínimo, en un rango comparable. Para un desarrollador individual es usable; para servir a un equipo completo en simultáneo, no.

Hay una lección práctica adicional en XDA Developers, cuyo autor migró sus modelos de Ollama a llama.cpp: el rendimiento depende del ajuste fino. Describe el flag --n-cpu-moe para decidir cuántas capas de expertos quedan en la RAM del sistema, y advierte sobre el cache warm-up: con el mismo prompt vio pasar un modelo de 44,98 a 61,76 tokens por segundo, un 37% de variación con la misma configuración. Para eso existe llama-bench, que repite cada prueba cinco veces y separa el procesamiento del prompt de la generación.

Los límites reales: memoria, cuantización y jailbreak

El cuello de botella de cualquier modelo local es la memoria. La PS5 tiene 16 GB de memoria unificada, y el sistema operativo y el entorno gráfico reducen lo disponible: PS5LM trabaja con 11,4 GB para modelo y contexto. Según GadgetReview, los archivos de modelo probados pesaron entre 6,8 y 9,2 GiB, y la memoria en ejecución es mayor porque incluye el caché de contexto.

La cuantización —comprimir los pesos a menos bits— permite que el modelo entre en memoria, a costa de cierta pérdida de precisión y calidad de razonamiento que varía según el modelo, el método y la tarea.

Y está el elefante en la sala: esto requiere una consola con jailbreak. GadgetReview enumera los riesgos: vulnerabilidades de seguridad, inestabilidad del sistema, garantía anulada, riesgo de perder el acceso a PlayStation Network y posibles conflictos con los términos de servicio de la plataforma o con la legislación local según la jurisdicción. A eso se suma un riesgo estructural: una actualización de firmware de Sony puede cerrar o reducir la ventana de jailbreak que hace posible todo esto. PS5LM no está afiliado a Sony Interactive Entertainment.

¿Qué significa esto para tu startup?

Lo relevante no es la consola. Es el patrón: inferencia corriendo en hardware que ya tienes, expuesta a través de las APIs que tu stack ya usa. Si tu herramienta de coding puede apuntar a la consola sin cambiar una línea de código, entonces el backend de tus modelos se volvió una variable de configuración y no una dependencia.

Eso abre cuatro movimientos concretos:

• Mide antes de comprar hardware. Antes de presupuestar una GPU, corre llama-bench en la máquina que ya tienes. Repite las pruebas y separa el procesamiento del prompt de la generación, como documenta XDA Developers: una sola corrida puede darte un número hasta 37% peor que el real por el efecto de cache warm-up.
• Deja la base URL configurable. Tanto PS5LM como las mini PC con memoria unificada que cubre TechTimes exponen endpoints compatibles con OpenAI, así que tu aplicación puede alternar entre nube y local sin reescribirse. Empieza por las tareas de volumen alto y riesgo bajo: clasificación, decisiones tipadas, respuestas internas.
• Haz el ROI con tus propias suscripciones. Suma lo que pagas hoy por asientos y APIs. Si estás cerca de los US$440 mensuales del ejemplo de TechTimes, la amortización en nueve o diez meses aplica solo a la porción de tu consumo que hoy corre sobre modelos open-weight.
• No lo pongas en producción. Un jailbreak es una ventana que una actualización puede cerrar, y la garantía y el acceso a PSN quedan en juego. Trátalo como laboratorio de I+D y herramientas internas, no como infraestructura de cliente.

Conclusión

PS5LM demuestra dos cosas a la vez. La primera es técnica: 11,4 GB de memoria compartida bien usados alcanzan para servir modelos útiles a velocidad conversacional, con la GPU al 100% y la consola a 54 °C. La segunda es estratégica: la parte verdaderamente valiosa no es el port, sino que hable el mismo protocolo que OpenAI y Anthropic.

Para un founder, la pregunta ya no es si se puede correr un modelo útil en local —se puede, incluso en una consola—, sino qué parte de tu producto no necesita un modelo frontera y puede vivir en hardware que ya está pagado.

Fuentes

• PS5LM en GitHub (fuente original)
• GadgetReview: Jailbroken PS5 Runs 27B-Parameter AI Model Locally via PS5LM
• XDA Developers: de Ollama a llama.cpp en modelos locales
• TechTimes: inferencia local en mini PC vs. costos de nube