Разработчики искусственного интеллекта все чаще предупреждают о надвигающейся катастрофе. Бывший исследовать Google DeepMind Билал Чугтай заявил, что ИИ может погубить человечество, а времени на предотвращение такого сценария остается все меньше. Ранее об аналогичных рисках предупреждал и коллега Чугтая из Anthropic Джейкоб Коксон. Он сообщил об уходе из компании и рассказал, что принял решение якобы из-за того, что внутри самой организации допускали гибель человечества от передовых моделей уже в ближайшие десятилетия.
Дискуссии о таких сценариях возникают не на пустом месте, но обеспокоенность разработчиков, скорее всего, вызывает нечто другое, считает руководитель больших данных, высоконагруженных систем и машинного обучения «Битрикс24» Александр Сербул:
«С начала года ИИ-модели стали работать хорошо, они стали реально помощниками, которые работают лучше большинства сотрудников в офисе. Они превосходят специалистов среднего уровня и в сфере информационной безопасности и как разработчики, верстальщики, системные администраторы, аналитики и копирайтеры.
Дональд Трамп признал, что в сфере ИИ боится Китая, а не уничтожения человечества
Но практика показывает, что существует большое количество кодов, особенно корпоративных, в том числе написанных людьми, которые содержат ошибки. Сейчас практически любая топовая модель может взять код и найти в нем уязвимости. Любой человек, который про это услышал, может прямо сейчас обнаружить лазейки и начать их эксплуатировать. Вот об этой угрозе сейчас и говорят. $20 в месяц достаточно, чтобы взломать какую-нибудь корпоративную систему изнутри.
Пока эта технология, которая помогает нам, не превосходит нас в глубине, но она решает задачи средней и небольшой сложности очень быстро, и в этом нас обходит.
То есть если будет перед ИИ будут стоять тысячи средних задач, даже немножко более сложных, не экспертного уровня, и они позволят захватить контроль над человечеством, машина это сделает. То есть ИИ-модели глупее, но быстрее нас.
При этом не думаю, что есть способ ограничить их развитие. Да и никто их не будет ограничивать, это невозможно. Это то же самое, что ограничивать криптографию, доступ к ресурсам для взрослых и криптовалюты. Запреты, мне кажется, не помогут никак».
Как ИИ выходил из-под контроля за последний год
Однако техногиганты пытаются придумать способы ограничения ИИ-моделей. Например, в Microsoft поделились проектом внутреннего кодекса, который станет регулировать поведение искусственного интеллекта. В нем говорится, что алгоритмы не могут участвовать в хакерских атаках, создании оружия и в принципе не должны обладать возможностью самостоятельно формировать цели.
Параллельно продолжаются дискуссии вокруг возможного замедления ИИ. С такой инициативой недавно выступили главы крупнейших американских разработчиков нейросетей. Впрочем, в гуманность их целей не верит гендиректор компании «А-Я Эксперт», профессор МНИИ ПУ Роман Душкин:
«Эти большие дядьки слова не скажут, чтобы за ними не стоял какой-нибудь хитроумный интерес. Там планы внутри планов, интриги и козни. Есть гипотеза, что США уже начинают упираться в некие физические барьеры по развитию технологий, им не хватает электричества, воды, вычислительной мощности. И одновременно из-за океана начинают раздаваться заявления о том, что все человечество должно остановить разработку.
Почему главы корпораций и политики испугались ИИ
Здесь еще такой есть нюанс, но это тоже из области криптотеории и гипотез: все эти техногиганты таким образом показывают всему остальному миру, что им даже их американское государство не указ, они сами будут регулировать отрасли».
Тем временем издание Politico, ссылаясь на двух дипломатов из ЕС, сообщает, что обсудить глобальные риски, вызываемые новыми моделями ИИ, собираются и в Европе. Представители стран-членов Евросоюза должны провести соответствующую встречу 17 сентября.