Известный инженер и сооснователь id Software Джон Кармак (John Carmack) высказал неожиданную идею, способную пересмотреть архитектуру вычислительных систем для искусственного интеллекта. В своём аккаунте в X он предположил, что функцию оперативной памяти (DRAM) для работы с нейросетевыми моделями могут выполнять… оптоволоконные кабели.
Суть концепции заключается в использовании очень длинного волокна в качестве замкнутой петли. Данные, в данном случае весовые коэффициенты ИИ-модели, непрерывно циркулируют по этому контуру со скоростью до 256 Тбит/с. В каждый момент времени в таком волокне фактически «хранится» в полёте определённый объём информации, поступающей напрямую в кэш процессора.
Главный плюс такого подхода — энергоэффективность. По мнению Кармака, постоянная прокачка данных по волокну может быть экологичнее и экономичнее, чем работа традиционных модулей DRAM, потребление которых в дата-центрах ИИ стремительно растёт.
Кармак подчёркивает, что это пока лишь теоретическая возможность, а не готовое решение. Практическая реализация столкнётся с вызовами: необходимостью огромных длин волокна, поддержанием сигнала и сложностью архитектуры, но у такой технологии может быть «лучшая траектория роста», чем у классической памяти, особенно в свете нынешнего кризиса с поставками и ценами на RAM, вызванного бумом ИИ.
Более реалистичной альтернативой на ближайшую перспективу он называет массивы из дешёвой флеш-памяти (NAND), работающие параллельно для обеспечения высокой пропускной способности при чтении, но для этого, как отмечает инженер, производителям ускорителей и накопителей нужно договориться о новом высокоскоростном интерфейсе. Идея Кармака — это скорее мысленный эксперимент, высвечивающий остроту проблемы «голода» памяти в индустрии ИИ. Пока одни ищут способы производить больше чипов, другие начинают задумываться о принципиально иных путях.
А как вы считаете, способны ли такие радикальные архитектурные сдвиги, предложенные Кармаком, когда-либо стать мейнстримом, или индустрия будет эволюционно улучшать проверенные технологии вроде DRAM и HBM? Выскажитесь на этот счет в комментариях.