Разработчик под ником Zagitta выложил на GitHub GPU Unlock — бесплатный открытый модуль для Linux, который снимает искусственное ограничение с видеокарт NVIDIA серии RTX 30. На игровых картах этого поколения операции FP16 и BF16 с накоплением в FP32, на которых держатся вычисления для нейросетей, выполнялись вдвое медленнее, чем на профессиональных моделях с тем же чипом. GPU Unlock возвращает им полную скорость без перепрошивки BIOS видеокарты и без модификации драйвера.
Модуль срабатывает при загрузке системы, ещё до запуска драйвера NVIDIA: переключает скоростные регистры, сбрасывает карту и передаёт её обычному драйверу. Поэтому после обновлений драйвера ничего заново патчить не нужно. В основе лежит метод, которым раньше разблокировали майнинговые карты NVIDIA серии CMP. Проект уже собрал около 3,4 тысячи звёзд на GitHub.
Самый заметный результат показала RTX 3090 Ti с лимитом 450 Вт: в BF16 производительность выросла с 87,5 до 157,4 терафлопс, то есть почти на 80%, а в TF32 — с 42,6 до 82,6 терафлопс, на 94%. В FP16 прирост скромнее: с 87,5 до 118,4 терафлопс. Пользователи прислали отчёты и по другим картам:
- RTX 3090 — от 25 до 67% в зависимости от лимита мощности (минимум при 225 Вт);
- RTX 3080 10 ГБ — 70–73%, примерно с 65 до 113 терафлопс при штатных 320 Вт;
- RTX 3070 — 73–81%;
- RTX 3060 12 ГБ — около 80%;
- RTX 3080 Ti 20 ГБ (OEM) — разблокировка проходит, но BF16 остаётся на половинной скорости.
В реальных задачах ускоряется всё, что опирается на матричные вычисления: генерация изображений и обработка запросов языковыми моделями. В тестах на RTX 3090 нейросеть обрабатывала длинные запросы на 33–36% быстрее, а время до появления первого слова ответа сократилось на четверть. Скорость самой генерации текста почти не изменилась: она упирается в пропускную способность видеопамяти, которую разблокировка не трогает. Результаты вычислений до и после совпадают побитно, так что точность не страдает. А вот прироста в играх пока никто не показал.
GPU Unlock работает только с RTX 30 на чипах GA102, GA103, GA104 и GA106, причём по GA103 отчётов пока нет. RTX 40 модуль не поддерживает: для неё энтузиасты, по сообщениям, ведут отдельную разработку. Официально инструмент рассчитан только на Linux. Для Windows существует экспериментальный порт другого автора, но успешный запуск подтвердили лишь на одной RTX 3090: там FP16 вырос с 70,6 до 125,9 терафлопс.
У новости есть и обратная сторона. Журналисты заметили, что подержанная RTX 3090 на eBay ещё недавно стоила около $1000 (примерно 77 тысяч рублей), а после новостей о разблокировке цены перевалили за $2000 (более 150 тысяч рублей). RTX 3090 Ti приближается к $3000 (около 230 тысяч рублей), а за RTX 3080 просят $900–1100 (примерно 70–85 тысяч рублей). Старые игровые карты на глазах превращаются в ИИ-ускорители, и тем, кто собирался взять недорогую б/у видеокарту для игр, придётся либо переплачивать, либо ждать.
Чувствуете ли вы, что ИИ-бум бьёт по ценам на видеокарты? Стали бы сейчас брать б/у карту? Поделитесь в комментариях.