Модель работает на графическом процессоре консоли без интернета и внешнего компьютера. Приложение Garlic LLM поддерживает голосовое общение на семи языках и запуск программ на MicroPython.Автор Hi-Tech Mail
На PlayStation 4 запустили языковую модель Qwen3.5-9B с 9 млрд параметров, которая работает на графическом процессоре консоли без интернета и внешнего компьютера. Как сообщает VideoCardz, разработчик Леонардо Алегрия (Leonardo Alegría) создал для этого бесплатное приложение с открытым исходным кодом Garlic LLM. Оно работает на оригинальной PS4 2013 года и не требует установки Linux.
По данным разработчика, на базовой PS4 и PS4 Slim модель генерирует 31-39 токенов в секунду, а при написании кода — до 43. Токены — фрагменты текста, которыми оперирует языковая модель. Контекст составляет 16 тысяч токенов: в этот объем должны помещаться обрабатываемая переписка и ответ.
В репозитории Garlic LLM автор описывает и другие возможности приложения. С ним можно общаться голосом на семи языках, включая русский: распознавание речи и озвучивание ответов также выполняются на консоли. Для диктовки сообщений доступны 25 европейских языков. Интерфейс поддерживает русский, английский, испанский и португальский. В голосовом режиме скорость генерации снижается примерно до 22 токенов в секунду — голосовая модель занимает память, которая нужна для ускорения текстовых ответов.
Для запуска нужна PS4 с GoldHEN — средой, позволяющей выполнять неофициальные приложения. Автор проверил Garlic LLM на базовой PS4 и Slim с прошивкой 11.52. Пользователи также сообщили о работе на Slim с прошивкой 14.00 и PS4 Pro с прошивкой 12.02; для Pro они указали скорость 25-45 токенов в секунду. Другие версии прошивки пока не протестированы. На PS5 приложение не работает: оно написано под графический процессор и системное ПО PS4.
Установочный пакет со всеми моделями занимает около 5,7 ГБ. Для установки требуется примерно 6 ГБ свободного места или 12 ГБ, если сначала скопировать пакет на внутренний диск консоли. После установки Garlic LLM запускается с главного экрана. Для голосового общения подойдет обычный микрофон, который распознает PS4.
Другой пример применения ИИ для создания программ — эксперимент инженера Anthropic, в котором Claude Fable 5.2 создала браузерный шутер Saltline за восемь часов.

