У каждой нейросети, которая генерирует видео, есть свой почерк — и его можно вычислить, даже не зная заранее, кто автор.Автор новостей
Команда специалистов из Калифорнийского университета создала систему, которая не просто отличает ИИ-видео от настоящего, а вычисляет конкретную нейросеть-создателя, сообщает Techxplore. Разработку назвали SAGA — от английского Source Attribution of Generative AI Videos, то есть определение источника видео, сгенерированного искусственным интеллектом. Руководил проектом аспирант Рохит Кунду под наставничеством профессора Амита Рой-Чоудхури. К работе подключились специалисты из YouTube и Google DeepMind, так что речь идет не о лабораторном эксперименте, а о разработке с прицелом на реальное применение.
Идея строится на простом наблюдении. Любой генератор видео оставляет в кадрах едва заметные искажения — что-то вроде цифрового отпечатка пальца. Раньше исследователи учили алгоритмы находить сам факт подделки. Теперь задача усложнилась: мало понять, что перед нами фейк, нужно узнать, кто именно его создал.
Тут и кроется главная техническая сложность. Видео отличается от фотографии тем, что в нем важна не только картинка в отдельном кадре, но и то, как она меняется каждую минуту. Разные ИИ по-своему обрабатывают движение, свет, мелкие детали при переходе между кадрами — и эти особенности остаются в итоговом ролике, даже если на глаз их не различить.
Для поиска таких следов разработчики придумали метод под названием Temporal Attention Signatures, сокращенно T-Sigs. Система анализирует множество роликов от одного и того же генератора и выводит усредненный профиль — своеобразный набор характерных черт. Дальше остается сравнить новое видео с базой таких профилей и понять, откуда оно взялось.
Тестировали разработку на видео из 19 разных нейросетей — и тех, что создают ролики по текстовому описанию, и тех, что оживляют статичные изображения. Система справилась не только с определением подделки как таковой. Она смогла разделить видео по типу генерации, распознать версию модели и даже указать на команду разработчиков, стоящую за конкретным алгоритмом.
Практическая польза очевидна. ИИ-ролики давно вышли за пределы развлечений — их используют в рекламе, обучении, а иногда и в политических манипуляциях. Когда фейк можно проследить до конкретного источника, это открывает новые возможности для расследований, помогает регуляторам требовать прозрачности от компаний и дает технологическим гигантам инструмент для отслеживания распространения подделок в сети.
Стоит понимать, что борьба с дипфейками — это постоянная гонка. Как только ученые находят способ вычислить генератор, разработчики нейросетей меняют архитектуру, и старые методы перестают работать. Сам Кунду называет это игрой в кошки-мышки, где обе стороны постоянно подстраиваются друг под друга. Тем не менее команда уже не первый год движется в этом направлении. Годом ранее те же исследователи представили модель для обнаружения монтажных подделок видео, а SAGA стала логичным продолжением этой работы.
Также недавно рассказывали, что соцсети заполонили фейковые ИИ-врачи, продающие сомнительные добавки. Подробности в статье.