Узнайте больше о мнении специалиста.Редактор Hi-Tech Mail
Искусственный интеллект постепенно превращается из обычного чат-бота в инструмент, способный работать с файлами, почтой, браузером и другими программами. О том, какие угрозы это создает, Regions.ru рассказал эксперт по ИИ Игорь Ашманов.
По его словам, обычный чат-бот не может самостоятельно открыть файлы, включить камеру или прочитать переписку без соответствующих разрешений. При этом нейросети уже активно используют киберпреступники. Они помогают искать уязвимости, создавать вредоносные программы и автоматизировать атаки. «Последние несколько лет генерируется несколько десятков тысяч вирусов в день», — отметил Ашманов. По его словам, киберпреступность давно превратилась в конвейер, а ИИ делает этот процесс еще быстрее.
Особую опасность представляют уязвимости нулевого дня — ошибки в программах, о которых еще не знают разработчики. «Сейчас уязвимости нулевого дня ищут самые продвинутые модели искусственного интеллекта», — заявил эксперт. Таким образом, нейросети не обязательно должны самостоятельно взламывать устройства: достаточно помочь злоумышленнику найти способ атаки.
Еще большую угрозу представляют AI-агенты, которым пользователь разрешает работать с файлами, электронной почтой, календарем или браузером. Злоумышленники могут использовать prompt injection — скрытые инструкции в письмах, документах или веб-страницах, которые обрабатывает нейросеть. Если агент не распознает такую манипуляцию, он потенциально может выполнить команду злоумышленника.
Поэтому эксперт рекомендует не предоставлять ИИ лишних полномочий и не загружать в нейросети конфиденциальные документы без необходимости. Особенно осторожно следует относиться к доступу к почте, контактам, файлам и браузеру.