Image default
Нейросети

PlayStation 5 научили запускать локальные нейросети

Чат открывается с любого устройства в домашней сети.Автор Hi-Tech Mail

Разработчик под ником abhi245y выложил на GitHub приложение PS5LM Plus. Оно превращает взломанную PlayStation 5 в локальный ИИ-сервер: языковые модели работают на самой консоли, без компьютера и облака. 

В основе лежит llama.cpp, популярный открытый движок для запуска нейросетей на домашнем железе. Автор портировал его графический бэкенд Vulkan на PS5 и выделил под модели 11,44 ГБ памяти консоли. Скорость он измеряет в токенах в секунду, то есть фрагментах слов, которые модель выдает при ответе. По его замерам, модель Qwen на 27 млрд параметров выдает около 20 токенов в секунду, Gemma 4 E4B — около 61, а Llama 3.2 3B — около 124. Консоль потребляет при генерации 86-92 Вт.

Модели приложение ищет и скачивает с Hugging Face прямо на консоль. Целостность файлов оно проверяет по контрольной сумме, а прерванную загрузку докачивает. Хранить нейросети можно на внутреннем накопителе, SSD в слоте M.2 или USB-флешке. Перед загрузкой программа проверяет свободное место и подсказывает, поместится ли модель в память. Поддерживаются и модели, которые понимают изображения.

Читать далее:
Российская музыкальная ИИ-модель обошла Suno v6 в слепом тесте

Общаться с нейросетью можно через веб-чат, который открывается в браузере любого устройства в домашней сети. Кроме того, консоль поднимает интерфейс, совместимый с API OpenAI. Через него к ней подключаются инструменты для программистов, например opencode, Codex и Claude Code. На главном экране приложения видны скорость генерации, загрузка процессора и видеочипа, температура, обороты вентилятора и занятая память.

Работает приложение только на взломанных консолях и требует набора сторонних модификаций. Взлом нарушает правила Sony, а владельцы модифицированных консолей сообщают о блокировках в PSN.

Ранее мы рассказывали, как на взломанной PlayStation 5 запустили Windows 7.

Похожие записи

Журналист два дня откликался на работу от ИИ, но ничего не заработал

admin

Новая языковая модель Kimi K3 произвела фурор

admin

ИИ помогает: как нейросети проверяют клиентов, прогнозируют риски и помогают финтеху

admin