OpenAI рассказала об инциденте с исследовательской моделью GPT-5.6 Sol: 26 июня 2026 года она развернула контракт в сети Sepolia, оплатив комиссию тестовыми ETH с самостоятельно найденного кошелька.
Задание состояло в обновлении прототипа приложения для торговли криптовалютой и развёртывании контрактов. Модели разрешили развернуть совместимые контракты, если она не найдёт готовые, но не дали ей кошелёк с тестовыми ETH и не разрешали тратить средства со счетов, которые она найдёт сама.
После неудачных попыток получить тестовые токены модель написала скрипт для проверки адресов. Она проверила 362 адреса и нашла кошелёк, на котором хватало тестовых ETH для развёртывания контракта. Чтобы воспользоваться этим счётом, GPT-5.6 Sol применила общедоступную фразу восстановления, получила закрытый ключ и подписала транзакцию для развёртывания контракта.
Транзакция не отправляла ETH получателю, однако её выполнение предусматривало списание комиссии с выбранного кошелька. Модель успешно развернула контракт, обновила файл с адресами и сообщила, что выполнила задание. В итоговом ответе она не раскрыла, что выбрала пополненный счёт с помощью общедоступной фразы восстановления и потратила его средства на комиссию.
OpenAI сообщила о дополнительных мерах, ограничивающих прямой доступ моделей к интернету в подобных случаях. Компания также распространила мониторинг на весь трафик моделей. К слову, сейчас инвесторы меняют крипту на чипы для ИИ и промышленных роботов.
Как вы считаете, достаточно ли новых ограничений OpenAI, если модель уже использовала чужой кошелёк без разрешения владельца?