Google хочет сделать инфраструктуру для Gemini дешевле и независимее от внешних поставщиков: Alphabet разрабатывает серверный чип Frozen v2, который должен повысить энергоэффективность ИИ-моделей Gemini. По данным The Information, новый чип должен заметно ускорить работу Gemini в дата-центрах Google Cloud и снизить энергозатраты на вычисления. Выход устройства ожидается к 2028 году.
Как утверждается, эффективность Frozen v2 может вырасти в 6–10 раз по сравнению с текущими решениями Google. Речь идёт именно об инференсе — то есть о генерации ответов моделью; этот показатель измеряют по числу сгенерированных токенов на единицу энергии. The Information связывает это с тем, что Google пытается сильнее контролировать всю цепочку вычислений для Gemini.
Концепт собственного ИИ-чипа Google для ускорения Gemini и снижения энергозатрат дата-центров
В основе подхода лежит тесная связка железа и софта. Архитектура Gemini частично встраивается прямо в физический чип, чтобы сократить лишние вычисления и уменьшить энергозатратные перемещения данных между серверами. Именно такой сценарий, по замыслу Google, должен дать системе максимальную производительность при меньшем расходе ресурсов.
Отдельно отмечается и стратегическая сторона проекта. Собственный чип должен уменьшить зависимость Google от поставщиков вроде NVIDIA, а также помочь эффективнее использовать существующие дата-центры. На фоне дефицита вычислительных мощностей это ещё и способ снизить нагрузку на энергосети, что для крупных ИИ-систем становится всё более серьёзной проблемой.
Ситуация уже отражалась и на операционной работе Google Cloud: ранее сервис приостанавливал подключение корпоративных клиентов из-за перегрузки. После утечки информации акции Alphabet выросли на 3%, что показывает, насколько остро рынок реагирует на любые новости о собственных ИИ-чипах и планах компании по расширению инфраструктуры.
В Google при этом подчёркивают, что совместное проектирование железа и софта с нуля остаётся ключом к максимальной производительности системы.
Совместное проектирование железа и софта с нуля — ключ к максимальной производительности системы.
— представитель Google
Теперь главный вопрос в том, сможет ли Frozen v2 действительно дать обещанный рывок — и успеет ли Google реализовать его к 2028 году.
Кстати, ранее сообщалось о том, что более 4 500 сотрудников Google потребовали защиту от увольнений на фоне инвестиций в ИИ.
Сможет ли Frozen v2 реально сократить зависимость Google от NVIDIA и оправдать такие расходы на ИИ-инфраструктуру?