Image default
Нейросети

Утилита ускорила ИИ на RTX 30 на 80% — цены на старые видеокарты взлетели

Энтузиаст выложил на GitHub модуль для Linux, который снимает ограничение Nvidia со старых GeForce RTX 30 и ускоряет их в задачах ИИ на 80%. На вторичном рынке RTX 3090 уже подорожала вдвое.Автор Hi-Tech Mail

Разработчик под ником Zagitta выложил на GitHub открытый проект gpu-unlock. Это модуль ядра Linux, который снимает программное ограничение с видеокарт GeForce RTX 30. По описанию автора, после разблокировки игровые карты считают в форматах FP16 и BF16 так же быстро, как профессиональные модели на тех же чипах. Эти форматы пониженной точности используют, чтобы обучать и запускать нейросети.

Игровые GeForce и карты Nvidia для рабочих станций часто построены на одних и тех же графических процессорах. При этом у потребительских моделей скорость части операций для ИИ урезана программно. Модуль Zagitta срабатывает до того, как в систему загрузится драйвер. Он записывает в видеокарту нужные настройки скорости, перезапускает ее и только после этого передает штатному драйверу Nvidia. Прошивать BIOS видеокарты или вмешиваться в железо не нужно. Утилита поддерживает чипы GA102, GA103, GA104 и GA106. Автор проверил ее на RTX 3090 Ti, 3090, 3080, 3070 и 3060. Пока она работает только в Linux, версии для Windows нет.

Сильнее всего выросла RTX 3090 Ti. В вычислениях BF16 ее производительность поднялась с 87,5 до 157 терафлопс, в формате TF32 — с 42,6 до 82,6 терафлопс. RTX 3080 с 10 ГБ памяти при штатном лимите мощности 320 Вт ускорилась в FP16 с 65 до 113 терафлопс, а RTX 3060 на 12 ГБ прибавила в тех же операциях около 80%. Как пишет Wccftech, при работе с языковыми моделями длинный запрос обрабатывается на 33–36% быстрее, а первый фрагмент ответа появляется на 25% раньше. Издание предполагает, что прирост получают и видеокарты RTX 40, однако в описании проекта на GitHub поколение RTX 40 среди поддерживаемых не указано.

Читать далее:
Во Владимире планируют использовать ИИ для предотвращения коммунальных аварий

Параллельно энтузиасты ускоряют старые карты и программными методами. Разработчик под ником TeksEdge добился на RTX 3090 скорости 381 токен в секунду на модели Qwen3.8-27B вместо исходных 82. Для этого он оптимизировал саму генерацию текста.

На цены новость повлияла быстро. По данным Wccftech, RTX 3090 с 24 ГБ памяти раньше стоила около 1000 долларов, а теперь ее продают дороже 2000 долларов. Цена RTX 3090 Ti приближается к 3000 долларов, а за RTX 3080 на 10–12 ГБ на eBay просят 900–1100 долларов.

Ранее мы рассказывали, что старые видеокарты, в том числе RTX 4070 Ti Super, исчезают из продажи, а на RTX 30 запустили технологию Smooth Motion.

Похожие записи

Ученый рассказала в чем главный риск от использования нейросетей в школах

admin

Наступила эпоха «микроприложений»: что это значит для мира

admin

На Wildberries появится ИИ-ассистент для поиска товаров

admin