Мировые медиа активно обсуждают появляющиеся ежедневно предупреждения ведущих экспертов и лидеров бизнеса в области ИИ об экзистенциальной опасности неконтролируемого развития технологий. Комментаторы не ставят под сомнение сам факт наличия проблемы. Кто-то считает, что у лидеров бизнеса есть вполне корыстные причины нагнетать обстановку. В Китае же все это рассматривают как новую итерацию холодной войны.
The Wall Street Journal (Нью-Йорк, США)
Из-за столкновения научного прогресса, морального императива и финансовых стимулов индустрия ИИ оказалась в кризисе. Развитие ИИ питало раздувающийся фондовый рынок весь прошлый год — феномен, который выглядит еще масштабнее с учетом того, что Anthropic и OpenAI оба находятся на пороге первичных размещений акций, которые оценят компании в триллионы долларов. Конкуренция со стороны Китая еще больше подняла ставки. И тем не менее то, что некоторые сотрудники компаний криком кричат, чтобы предупредить (об опасности.— “Ъ”), само по себе является доказательством того, что риски продолжения движения — в условиях почти полного отсутствия регулирования — могут быть колоссальными.
Der Spiegel (Гамбург, Германия)
Пост в соцсетях бывшего разработчика ИИ вызвал целую волну экзистенциального страха — на этот раз, скорее всего, совершенно оправданного. Сейчас необходимо именно то, что больше всего ненавидят Дональд Трамп и его сторонники.
Если ознакомиться с недавними высказываниями сотрудников ИИ-концернов, может сложиться следующее впечатление: огромные команды с гигантскими бюджетами работают над уничтожением человечества. Преувеличение? Возможно. Это крайне опасно? Определенно. Еще полгода назад я бы, вероятно, смотрел на происходящее сейчас как на «PR с помощью страха».
Как ИИ выходил из-под контроля
Но теперь мы имеем дело с совершенно иной ситуацией. Рои ИИ-агентов совершили несколько неконтролируемых и однозначно незаконных хакерских атак. Написанные независимыми экспертами отчеты вскрывают бездну. Джинн выпущен из бутылки, и у него, по-видимому, собственное представление о своих задачах. К несчастью, в Белом доме сейчас сидит человек, который верит не в кооперацию, а в игру с нулевой суммой. Миру жизненно важно сплотиться — из-за нынешней ИИ-гонки вооружений сделать это нужно еще быстрее.
The Times (Лондон, Великобритания)
«Никто бы не поверил, что… разумы, неизмеримо превосходящие наш, смотрели на Землю завистливыми глазами и медленно и верно строили планы против нас». Предупреждение Журналиста из… рок-оперы «Война миров» Джеффа Уэйна кажется на этой неделе таким же свежим, как и тогда, когда оригинальная книга была написана Гербертом Уэллсом более 100 лет назад… Уэллс, фабианский социалист, скептически бы отнесся к апокалиптическим предупреждениям, исходящим от мультимиллионеров вроде Илона Маска и Сэма Альтмана…
Не нужно иметь ИИ, чтобы заметить неприкрытый корыстный интерес этих «техно-братков». И все же страх быть сокрушенными новой технологией, которую мы не очень понимаем, едва ли нов… Когда я работал в лаборатории, я обычно мог сказать, что происходит у меня в пробирке. Еще пару лет назад исследователи в области искусственного интеллекта могли сделать то же самое. Но не сейчас. Вы можете дать команду ИИ-агенту и обычно понять, что он производит, но у вас может не быть ни малейшего представления о том, как он выполнил задачу… Ученые все меньше и меньше понимают, что делают машины, так сказать, под капотом. Они называют это интерпретируемостью — способностью отслеживать и контролировать то, как ИИ-агент выполняет свою работу. И мы уже не успеваем за этим процессом.
Global Times (Пекин, США)
Предложение, которое, как казалось, выступало за «борьбу с чрезмерной конкуренцией» в индустрии ИИ незаметно сорвало маску с некоторых деятелей американского технологического сообщества… В последние годы стремительная эволюция технологий ИИ принесла с собой риски для безопасности, этические проблемы и опасность выхода технологий из-под контроля. Это глобальные вызовы, с которыми сталкивается все человечество.
Однако… «тихая холодая война в сфере ИИ» лицемерна и близорука. Ее истинная цель — попытка ограничить развитие ИИ в Китае при помощи технологических барьеров и регуляторных монополий, поддержать монопольную гегемонию Вашингтона в передовых технологиях… Попытка обсуждать глобальную безопасность ИИ и одновременно пытаться «сдержать Китай» —… иллюзия, которую принципиально невозможно реализовать. Являясь одним из крупнейших и наиболее открытых поставщиков в глобальной экосистеме ИИ,
Китай по своим возможностям в этой сфере давно перестал быть переменной, которую можно «исключить». Принудительный разрыв глобальных цепочек производства и инноваций в ИИ и исключение Китая и китайских компаний лишь существенно повышает издержки проб и ошибок и риски потери контроля над глобальным развитием ИИ.
The Indian Express (Мумбай, Индия)
Большую часть истории человечества власть принадлежала тем, кто мог принимать решения. Инструменты увеличивали силу человеческих рук, предел досягаемости человеческого голоса и скорость человеческих вычислений. Искусственный интеллект приносит нечто, имеющее более важные последствия: системы все больше участвуют в принятии решений. Исследователь Эван Хубингер оценивает вероятность того, что в течение десятилетия ИИ приведет к уничтожению человечества, более чем в 10%. Такие цифры заслуживают скептического отношения. Нет такого эмпирического метода, который позволил бы рассчитать вероятность уничтожения человечества интеллектом, который пока еще не существует.
Выпускающие такие предупреждения сами участвуют в этой гонке и коммерчески заинтересованы в том, какие в ней будут правила. Их предупреждения должны давать информацию для государственной политики, а не определять ее. Но отказ верить в конкретный прогноз не означает отказа от предосторожностей. Не нужно верить в то, что ИИ уничтожит человечество, чтобы считать, что нужно защищать право людей принимать решения. Более безотлагательная опасность может быть в том, что люди передадут право принятия решений системам, деятельность которых невозможно целенаправленно контролировать.