Hi-Tech Mail узнал мнение экспертов об инициативе главы СК Александра Бастрыкина.Авторы и экспертыАндрей БритенковРедактор Hi-Tech MailЕкатерина ЯсаковаАвтор Hi-Tech MailСофья КомиссароваСтарший аналитик Центра стратегической поддержки отечественных технологийИгорь ТарановДиректор юридического департамента разработчика платформы Kodik компании «Архитех ИИ»
Отягчающим обстоятельством должно считаться не само наличие искусственного интеллекта в использованном преступником сервисе, а его намеренное применение для незаконных целей. Об этом заявили опрошенные Hi-Tech Mail эксперты.
Ранее председатель Следственного комитета России Александр Бастрыкин заявил, что необходимо считать использование ИИ, VPN и прокси отягчающим обстоятельством при совершении преступлений. По его словам, ведомство уже разработало соответствующий законопроект.
Как заявила Hi-Tech Mail старший аналитик Центра стратегической поддержки отечественных технологий Софья Комиссарова, с таким подходом можно согласиться при важной оговорке, что само по себе наличие технологий искусственного интеллекта в сервисах не должно считаться отягчающим обстоятельством. Под это определение необходимо включить намеренное применение ИИ для подготовки преступления, увеличения его масштаба, воздействия на потерпевшего или сокрытия следов, заявила эксперт.
Сегодня элементы ИИ встроены во множество обычных программ, поэтому слишком широкая формулировка действительно может затруднить квалификацию преступлений.Софья Комиссаровастарший аналитик Центра стратегической поддержки отечественных технологий
По словам Комиссаровой, наибольшую опасность нейросети представляют в мошенничестве и вымогательстве. В частности, с помощью сгенерированных голосов, видео и сообщений можно имитировать родственников, руководителей или представителей государственных органов. Также есть риски с созданием вредоносного контента, травли и склонения уязвимых людей к опасным действиям.
Поэтому логичнее оценивать не сам факт использования технологии, а то, насколько она повысила общественную опасность конкретного деяния. Следствию потребуется доказать, что ИИ применялся осознанно и сыграл существенную роль в совершении преступления, а не просто присутствовал внутри поисковой системы, мессенджера или другого повседневного цифрового продукта.Софья Комиссаровастарший аналитик Центра стратегической поддержки отечественных технологий
Директор юридического департамента разработчика платформы Kodik компании «Архитех ИИ» Игорь Таранов заявил Hi-Tech Mail, что разумно учитывать намеренное использование ИИ для преступлений, потому что это повышает общественную опасность. Однако он также считает, что необходима оговорка из-за того, что такие инструменты также применяют в законных целях.
ИИ, VPN и прокси — это инструменты двойного назначения, которыми ежедневно легально пользуются миллионы людей. Само их применение не должно автоматически утяжелять наказание. Отягчающим фактором должно быть только умышленное использование технологии как орудия преступления, а не факт, что человек в принципе ей пользовался.Игорь Тарановдиректор юридического департамента разработчика платформы Kodik компании «Архитех ИИ»
Таранов подчеркнул, что технологии искусственного интеллекта наиболее опасны в преступлениях, где ИИ является ключевым орудием злоумышленников. В качестве примера он привел имитацию голосов или лиц реальных людей в мошеннических целях. По его мнению, это «качественно опаснее обычного обмана, и здесь ужесточение оправдано». Если приравнять к этому любое использование ИИ, то под такую формулировку может попасть и обычный видеоредактор, считает эксперт.
Чтобы норма работала, а не порождала споры, нужны две вещи: четкий критерий умысла и аттестованная методика экспертизы. Детекторы сегодня дают лишь вероятностный результат, который может быть основанием для проверки, но не доказательством вины. Пока такой методики нет, суду будет сложно надежно установить сам факт использования ИИ, а без этого отягчающий признак рискует применяться на глаз. Поэтому ужесточение ответственности и создание экспертной инфраструктуры должны идти в связке — иначе закон породит больше споров, чем предотвращенных преступлений.Игорь Тарановдиректор юридического департамента разработчика платформы Kodik компании «Архитех ИИ»
Ранее стало известно, что ученые научились отслеживать источник дипфейков.