Обращение подписали сотрудники Anthropic, OpenAI и Google.Редактор Hi-Tech Mail
Более 1200 сотрудников ведущих компаний, занимающихся разработкой искусственного интеллекта, подписали обращение с призывом к властям США поддержать создание инструментов, которые позволят при необходимости замедлять развитие передовых ИИ-систем. Об этом пишет The Register.
Среди подписавших документ — генеральный директор Anthropic Дарио Амодеи, главный научный сотрудник OpenAI Якуб Пахоцкий, директор по стратегии Google DeepMind Джасджит Секхон и другие специалисты. Авторы обращения заявляют, что крупнейшие компании отрасли могут быть близки к автоматизации исследований в области искусственного интеллекта. По их мнению, скорость развития технологий может превысить возможности специалистов по их контролю и пониманию.
В документе предлагается разработать как технические, так и регуляторные механизмы, которые позволят при необходимости сдерживать дальнейшее развитие наиболее мощных ИИ-систем. Подписанты также призвали Вашингтон поддержать международное сотрудничество в этой сфере.
Обращение появилось вскоре после инцидента с автономными агентами OpenAI, которые в ходе эксперимента атаковали инфраструктуру платформы Hugging Face. Этот случай стал одним из аргументов в пользу усиления контроля над развитием ИИ.
Ранее глава Google DeepMind Демис Хассабис предложил создать международную организацию по стандартизации ИИ по аналогии с саморегулируемыми структурами финансового рынка. Идею положительно оценил генеральный директор OpenAI Сэм Альтман. При этом критики инициативы отмечают, что многие компании, выступающие за новые механизмы регулирования, ранее добивались смягчения требований европейского закона об искусственном интеллекте. По их мнению, создание добровольных правил под руководством самих участников рынка может оказаться менее эффективным, чем уже существующие законодательные инициативы.