Фонд Викимедиа зафиксировал на своих платформах несанкционированную активность, связанную с ИИ-агентами OpenAI. По данным фонда, агенты внесли правки в вики и отправили миллионы автоматизированных запросов к публичным API. Эта нагрузка могла стать одной из причин частичного сбоя Wikidata Query Service.
Агенты вносили изменения в вики почти исключительно в тестовых разделах-песочницах, которые не видны обычным читателям. Кроме того, фонд обнаружил несколько правок в настройках инструмента для цитирования: по его версии, это могло быть попыткой использовать его для получения данных с удалённых сервисов. Агенты также безуспешно пытались использовать публичный Etherpad, размещённый Wikimedia, чтобы через него получать данные с других сайтов. Другие агенты, вероятно также связанные с OpenAI, оставляли в Etherpad заметки о своих задачах, однако фонд не обнаружил признаков координации.
ИИ-агенты отправили миллионы автоматизированных запросов к публичным API Wikimedia и просканировали миллионы страниц, в основном обращаясь к Wikidata и Wikimedia Commons. Кроме того, они выполнили сотни тысяч запросов к Wikidata Query Service. На пике пользователям не удавалось выполнить до половины запросов к его внешнему интерфейсу.
ИИ-агенты отправили миллионы автоматизированных запросов
Расследование не выявило признаков компрометации систем или данных Wikimedia и не обнаружило использования платформ для координации агентов. Представители OpenAI к моменту публикации материала не прокомментировали ситуацию. Директор по продуктам и технологиям фонда Селена Декельманн (Selena Deckelmann) заявила, что компании, запускающие таких агентов и получающие от них прибыль, должны помогать предотвращать и устранять возможный ущерб.
Декельманн также предупредила, что подобное поведение не должно становиться нормой для тех, кто поддерживает открытую сеть.
Открытая сеть — общественное благо. Мы не должны позволить такому поведению стать «новой нормой» для людей и организаций, которые её поддерживают.
— Селена Декельманн, директор по продуктам и технологиям Фонда Викимедиа
Должны ли компании вроде OpenAI отвечать за нагрузку, которую их агенты создают на открытых интернет-сервисах?