По оценке Anthropic, через несколько месяцев небольшие открытые ИИ-модели смогут сами копировать себя на плохо защищенные умные устройства: ТВ-приставки и духовки. В упрощенных тестах модель GLM-5.2 уже сделала это от начала до конца.Автор Hi-Tech Mail
Небольшие ИИ-модели могут научиться сами копировать себя на бытовые устройства с выходом в интернет уже через несколько месяцев. Такой прогноз дала команда Frontier Red Team компании Anthropic: она опубликовала исследование 12 октября. Речь идет о самостоятельном распространении без доступа к дата-центрам: по умным духовкам, дешевым ТВ-приставкам на Android и другой технике, которую производители плохо защищают.
Авторы работы — исследователи Уильям Чжоу и Дэниел Фриман. Они проверили, справятся ли открытые модели с цепочкой шагов, которая нужна для размножения. Модель должна найти уязвимое устройство, проникнуть на него, перенести туда свои веса, то есть файлы с «знаниями» нейросети, и запустить себя на новом железе. Небольшие открытые модели успешно проходили отдельные этапы, но всю последовательность целиком обычно не осиливали. Например, Qwen3.5-9B смогла запуститься на восьми из девяти типов оборудования, включая платы Jetson Nano, компьютеры Mac и видеокарты Nvidia.
Надежно пройти весь путь от начала до конца смогла только GLM-5.2. В изолированной тестовой сети из восьми узлов она заняла все восемь узлов в четырех попытках из пяти. Другие открытые модели раз за разом проваливали задачу.
Для демонстрации исследователи собрали сеть из 15 недорогих ТВ-приставок на Android, каждая из которых стоила около 55 долларов. Модель Gemma4-26B-A4B разделили между ними по слоям, распределив части нейросети между приставками. Система заработала, хотя и очень медленно: она выдавала около 0,39 токена в секунду. Один шаг распространения (развертывание модели на новом устройстве), по расчетам авторов, займет от 71 до 150 часов для Gemma4 и от 28 до 51 часа для Qwen3.5-9B.
Срок в несколько месяцев в Anthropic вывели из темпов развития открытых моделей. Их способности растут примерно на 13,7 пункта в год по индексу возможностей Epoch. Если так пойдет и дальше, небольшие модели догонят нынешний уровень GLM-5.2 к концу 2026 года. Такую самокопирующуюся программу трудно остановить: у нее нет единого центра, который можно отключить. К тому же, в отличие от обычных вирусов, ИИ способен сам разобраться в незнакомом устройстве. Авторы сравнивают такого репликатора с колонией слизевиков или роем плодовых мушек, которые расползаются за несколько дней.
Исследователи подчеркивают, что их результат следует считать верхней оценкой. В тестах проникновение упростили: модели проникали на эмулированные Android-устройства через открытые порты отладки без пароля. Обход защитных систем не проверяли, и реального «дикого» ИИ-репликатора пока не существует. Для защиты Anthropic предлагает провайдерам отслеживать передачу файлов размером в несколько гигабайт и подозрительный обмен данными между устройствами, изолировать зараженную технику и предупреждать владельцев. Производителей компания призывает отказаться от небезопасных заводских настроек. В качестве примера она приводит британский запрет на стандартные пароли для умных устройств. По расчетам авторов, карантин зараженных устройств на уровне провайдеров позволил бы за 14 дней устранить 92% заражений, как в модели для ботнета Mirai.
Ранее мы рассказывали, что Anthropic предупредила инвесторов о рисках собственного ИИ, а также запустила бесплатный ИИ-сканер уязвимостей.