Брэд Смит считает, что к стиральным машинам и молоку требования безопасности строже, чем к ИИ. Он предлагает ввести «аварийный тормоз», отчеты об инцидентах и проверку моделей до выпуска.Автор Hi-Tech Mail
Президент Microsoft Брэд Смит заявил, что искусственный интеллект сегодня регулируется слабее, чем молоко и стиральные машины, пишет The Guardian. Он призвал ввести для ИИ жесткие правила безопасности. В их числе он назвал юридическую ответственность компаний перед теми, кто пострадал от вышедших из-под контроля ИИ-агентов.
«Сейчас к вашей стиральной машине применяется больше правил безопасности, чем к ИИ. Каждый пакет молока в продуктовом магазине подчиняется нормам безопасности и проходит проверку», — сказал Смит. По его словам, ИИ одновременно служит и инструментом, и оружием. При этом общество уже умеет выстраивать такой контроль: «Мы знаем, как это делать для других продуктов».
Смит перечислил конкретные меры. Он предлагает обязать разработчиков встраивать «аварийный тормоз» — механизм, который позволяет остановить или замедлить систему, если она начнет вести себя непредсказуемо. Компании также должны составлять отчеты об инцидентах с ИИ. Если ИИ-агент, то есть программа, которая сама выполняет действия от имени пользователя, вышел из-под контроля и взломал чужую систему, закон должен обязывать компанию сообщить об этом пострадавшему. Еще одна идея касается независимых государственных экспертов: они будут проверять новые модели до выхода на рынок.
Президент Microsoft признал, что ответственные компании уже ограничивают себя сами, но, по его словам, этого недостаточно. Жесткие правила он считает нужными прежде всего для тех игроков, которые меньше следят за безопасностью.
Возглавить выработку международных норм, по мнению Смита, лучше всего сможет Великобритания. Он считает, что технологическое преимущество стране дает Институт безопасности ИИ, созданный при правительстве Риши Сунака. Кроме того, в Вашингтоне британские стандарты, как полагает Смит, примут охотнее, чем правила Евросоюза. Его позиция расходится с курсом президента США Дональда Трампа. Тот делает ставку на саморегулирование отрасли, чтобы США не уступили Китаю в технологической гонке.
Это не первое подобное заявление Смита за последние дни. 8 октября он рассказал телеканалу ITV News, что за два года ИИ стал мощнее, чем кто-либо в отрасли мог представить. Без срочного регулирования люди рискуют потерять контроль над технологией. «Я думаю, что действовать нужно сейчас», — подчеркнул Смит.
Ранее мы рассказывали, что Microsoft наняла сотни проверяющих, которые читают запросы пользователей к Copilot.