Já conseguiram colocar o PS5 com jailbreak para rodar modelos de IA localmente na GPU do console
PS5 com jailbreak passa a rodar modelos de IA localmente na GPU, com suporte a Llama, Qwen e Gemma sem depender de serviços em nuvem.
O PS5 com jailbreak já consegue rodar modelos de IA local na GPU, com Llama 3.2 3B chegando a cerca de 124 tokens por segundo e o Qwen 3.8 27B em torno de 20.
O avanço, conforme o Tom’s Hardware, vem de um fork chamado PS5LM Plus, publicado no Reddit pelo usuário u/AdIllustrious7246 (no GitHub como abhi245y). Ele pegou o PS5LM original — um port não oficial do llama.cpp feito por Mert Cobanov (cobanov) — e transformou o que era um payload rodando só na CPU em um aplicativo nativo da console. A diferença prática é grande: em vez de ficar limitado a cerca de 6 GiB de memória e sem acesso à GPU, a versão nova consegue usar até uns 11,4 GiB e aproveita o chip gráfico da PlayStation 5 via Vulkan, graças a um port do driver RADV.
Na prática, isso abre espaço para modelos bem maiores. O Qwen 3.8 27B quantizado a cerca de 2 bits (versões UD-IQ2_XXS de 6,8 GiB e UD-Q2_K_XL de 9,2 GiB) gera texto a aproximadamente 20,3 a 20,7 tokens por segundo, dependendo da configuração de contexto e do cache KV. O Gemma 4 E4B (4,8 GiB) chega a uns 61 tokens por segundo, e o Llama 3.2 3B Instruct (1,9 GiB) bate cerca de 124. Modelos ainda menores, como o Qwen 3.5 0.8B, podem ultrapassar 200 tokens por segundo. Esses números vêm dos próprios desenvolvedores e ainda não passaram por testes independentes em larga escala.
Antes, no caminho só de CPU como payload, o mesmo modelo de 27 bilhões de parâmetros mal saía do lugar — na casa de um token por minuto, porque a memória disponível era curta demais e a geração ficava engessada. A GPU da PS5, com seus 16 GB de GDDR6 unificada e banda de 448 GB/s, muda o cenário porque a geração de tokens costuma ser limitada mais pela largura de banda do que pela potência bruta de cálculo. O aplicativo também traz um painel na TV que mostra velocidade de geração em tempo real, uso de CPU e GPU, consumo, temperaturas e como a memória se divide entre o modelo e o cache de contexto.
Dá para conversar com o modelo de qualquer aparelho na mesma rede local. O servidor usa a interface web do llama.cpp (geralmente na porta 8081) e expõe APIs compatíveis com OpenAI e Anthropic, então clientes comuns conseguem se conectar sem precisar de nuvem ou de um PC rodando o tempo todo. Alguns modelos com suporte a visão, como o Gemma 4, também aceitam imagens. O projeto ainda inclui uma biblioteca de modelos (GGUF em armazenamento interno, USB ou M.2) e um planejador que tenta escolher automaticamente o maior contexto e o tipo de cache que cabem na memória livre.
Para instalar, a console precisa estar com jailbreak em firmware entre 7.00 e 13.60, com os payloads kstuff-lite, etaHEN e ShadowMountPlus. O app entra como título homebrew e aparece na tela inicial. Jailbreak, claro, tira a garantia e pode afetar o acesso a serviços online da Sony — é um caminho só para quem já entende os riscos e quer usar a máquina de forma privada e offline.
O processamento de prompts longos ainda é mais lento (35 a 50 tokens por segundo no modelo grande), então uma entrada muito extensa pode levar alguns minutos até a primeira resposta começar. A quantização agressiva para caber o 27B também reduz um pouco a precisão do modelo. Mesmo assim, para quem já tem um PS5 modificado e quer um servidor de IA local em casa, sem depender de nuvem nem de um desktop dedicado, o salto em relação à versão anterior de CPU é o tipo de resultado que faz o homebrew da console parecer mais útil do que muita gente imaginava até algumas semanas atrás.
Aproveite que está aqui e siga o Arkade no:
Leia também
Conto a história dos videogames e da velocidade de ontem e de hoje por aqui! Você pode me seguir em instagram.com/juniorcandido ou x.com/junior_candido E para contatos, envie sua mensagem para o e-mail [email protected]
Mais matérias de Junior Candido