Опасность искусственного интеллекта обсудили в Совете Безопасности ООН. На заседании выступили глава OpenAI Сэм Альтман, гендиректор Anthropic Дарио Амодеи, а также представители США и Франции.
Именно Париж стал инициатором встречи. Главный вопрос на повестке — технологии развиваются настолько быстро, что правила безопасности необходимо вырабатывать сообща. Сэм Альтман поддержал идею французских дипломатов, но призвал не предаваться апокалиптичным размышлениям:
«Риск в том, что искусственный интеллект развивается слишком быстро. Человечество уже не может это отслеживать. И, тем более, вмешаться, когда нужно. Ужасная ситуация. Индустрия не должна забывать об опасности, которая исходит от технологий, и ставить её выше сверхприбыли. Борьба с конкурентами никак не может оправдать поспешные решения.
Эксперты оценили опасность ИИ
Поэтому мы согласились в одностороннем порядке приостановить развитие искусственного интеллекта и будем поступать так же и дальше. Важно, чтобы никто не создавал модели, где невозможно гарантировать безопасность. Мы обязаны сохранить контроль человечества над технологиями. Кроме того, недопустимо, чтобы ключи от мощных моделей были в руках пары-тройки людей.
Компании и даже государства не должны обладать таким продвинутым искусственным интеллектом, который позволяет навязывать свою точку зрения всему миру.
У нас в OpenAI есть однозначная позиция на этот счет. Между слепым оптимизмом и апокалиптичным мышлением мы выбираем нечто среднее. Во-первых, разработка искусственного интеллекта должна отражать человеческие ценности и поддерживать переход общества на следующий этап развития. Во-вторых, только люди могут способствовать научному прогрессу и росту экономики. ИИ лишь помогает исследователям делать открытия, но не заменяет человеческий мозг. В-третьих, наши технологии служат личностям, а не корпорациям. Искусственный интеллект должны регулировать демократические институты».
Сооснователь Anthropic Дарио Амодеи тоже признал, что ИИ способен представлять угрозу человечеству, и призвал ввести ограничения на международном уровне. Однако в администрации Трампа отметили, что США отвергают любые попытки международных организаций установить централизованный контроль над технологией.
Президент США выступил на Генеральной ассамблее ООН
Скорее всего, США и Китай и дальше будут конкурировать в этой сфере, но менее явно, считает независимый эксперт в области искусственного интеллекта Александр Финагин:
«Две вещи здесь можно выделить. Первая — это значительно выросшая автономность агентов и, как следствие, их непредсказуемость. Вторая — это доступность за счет open-source-моделей, которые набирают обороты с такой же скоростью, как самые передовые коммерческие. Так любая группа лиц может наделать больших бед.
На мой взгляд, все может пойти по пути создания организации, подобной МАГАТЭ, которая будет контролировать узкие места: вычислительные дата-центры, требования раскрывать, кто является клиентами. Возможен и контроль над продажей самых новых чипов, ограничения для широких пользователей frontier-моделей.
Что касается международного контроля с учетом конкуренции между США и Китаем — самый реалистичный сценарий, где США продолжат технологически давить на темпы развития Китая в части ИИ, а Китай продолжит двигаться в сторону полной технологической независимости.
И, как и всегда, между странами будут неформальные каналы связи, в которых они смогут договориться о контроле над самыми критическими узлами.
Ранее ведущие корпорации заявляли, что вот-вот появится общий искусственный интеллект AGI. Но в попытке создать рай они смогли создать очень удобный диван-реклайнер. Мы так же далеки от AGI, но технология получила опасный вектор применения. Компаниям сейчас выгодно найти ту точку равновесия, в которой их не будут челленджить за отсутствие быстрого роста и приближения к AGI».
9 сентября один из ведущих исследователей Anthropic Джейкоб Коксон публично объявил, что уволился из компании. Причина — слишком бурное развитие искусственного интеллекта, которое выходит из-под контроля. Заявление Коксона вызвало большой резонанс. В сети появились призывы от политиков и бизнесменов замедлить изыскания в области ИИ.