Image default
Нейросети

Российские ИИ-модели проверят на традиционные ценности

Проверкой займется независимая лаборатория.Редактор Hi-Tech Mail

Российские ИТ-компании при поддержке Минцифры предлагают передать независимой испытательной лаборатории проверку больших моделей искусственного интеллекта на соответствие законодательству и традиционным духовно-нравственным ценностям. Об этом «Ведомостям» сообщили источники, знакомые с обсуждением инициативы, а также подтвердили в Минцифры.

Обсуждение будущих правил проходило в конце июля — начале августа на площадке АНО «Цифровая экономика». Необходимость разработки соответствующего порядка связана с законом об ИИ, принятым 26 июля. Документ вводит два специальных статуса для крупных фундаментальных моделей — национальной и суверенной. Для их получения разработчики должны подтвердить соответствие ИИ российскому законодательству и традиционным ценностям.

Отдельный перечень ценностей создавать не планируют. По словам источника, вместо этого вместе с представителями бизнеса разработают специальные бенчмарки, с помощью которых будут оценивать ответы моделей. При этом критерии могут основываться на положениях указа президента № 809, где уже закреплен перечень традиционных российских ценностей.

Читать далее:
В МФТИ создали ИИ, который предсказывает сильные землетрясения

Предполагается, что разработчик сможет обратиться в испытательную лабораторию с заявлением и предоставить сведения об архитектуре модели, компании и используемых механизмах фильтрации. Специалисты затем протестируют ИИ с помощью специальных бенчмарков, в том числе проверят возможность обхода установленных ограничений с использованием промпт-инъекций.

По итогам проверки лаборатория подготовит заключение о соответствии или несоответствии модели установленным требованиям и направит его в правительственную комиссию по цифровизации. Положительная оценка станет одним из условий для получения статуса национальной или суверенной модели.

При этом проверять все представленные на российском рынке ИИ-системы не планируется. Оценка будет распространяться на разработки, претендующие на специальные статусы и связанные с ними меры господдержки. В их числе могут быть приоритетное использование в отдельных сферах, участие в госзакупках и доступ к данным государственных информационных систем.

Похожие записи

Генетик объяснил, почему при помощи ИИ опасный патоген создать быстрее, чем защиту от него

admin

СМИ рассказали об угрозе ядерной безопасности со стороны искусственного интеллекта

admin

Стало известно, как часто студенты применяют ИИ в своих работах

admin