Злоумышленники перешли от кустарных экспериментов с нейросетями к промышленному использованию ИИ в реальных атаках. Специалисты Google Threat Intelligence Group зафиксировали новое явление: вредоносное ПО теперь умеет напрямую обращаться к ИИ прямо во время заражения системы, чтобы получить свежий код или инструкции.
Речь идет не просто о генерации фишинговых писем с помощью нейросетей. Аналитики обнаружили, что некоторые семейства угроз совершают прямые API-вызовы к ИИ-помощнику Gemini. Вирусные атаки не содержат в своем теле жестко прописанный модуль для кражи данных или обхода защиты, поэтому они отправляют запрос в духе «сгенерируй код на C#, который вытащит пароли из браузера», и исполняет полученный ответ на лету. Для антивирусных движков это головная боль нового уровня. Обнаружить такой «пульсирующий» код, который каждый раз выглядит по-новому и существует только в оперативной памяти, традиционными сигнатурными методами почти невозможно.
Помимо динамической генерации кода, Google фиксирует массовые попытки «клонирования» своих моделей. Хакеры атакуют ИИ с помощью техники дистилляции: они отправляют Gemini тысячи структурированных запросов, чтобы понять внутреннюю логику и шаблоны ответов. Собрав достаточно данных, злоумышленники могут обучить свою собственную модель, которая будет вести себя как разработка Google, но без гигантских затрат на вычислительные мощности и исследования. В компании заявили, что пресекли несколько таких кампаний, направленных на кражу «ноу-хау» у Gemini.
Особое беспокойство вызывает интерес к агентному ИИ. Эксперты предупреждают, что киберпреступники присматриваются к системам, способным выполнять многоступенчатые задачи без участия человека. Теоретически это позволит создать угрозу, которая будет самостоятельно принимать решения: выбирать цели, подбирать инструменты взлома и заметать следы.
Наблюдаемая тенденция заставляет задуматься о том, что уже в обозримом будущем мы столкнёмся с совершенно иным ландшафтом угроз. Вслед за простыми вызовами кода придут по-настоящему автономные агенты: заразив систему, вирус сможет самостоятельно оценивать окружение, выбирать цели и тактику, обращаясь к ИИ за советом на каждом этапе.
Как вам кажется, в ближайшем будущем нам стоит опасаться «думающих» вирусов или это очередной виток хайпа вокруг ИИ в кибербезопасности? Поделитесь мнением в комментариях.