OpenAI начнет маркировать материалы, созданные искусственным интеллектом. По требованию законодательства Евросоюза в ближайшие недели компания добавит невидимый водяной знак к ответам ChatGPT и Codex для пользователей из стран ЕС.
Для маркировки была разработана технология под названием textGrain. В тексте появляется определенный узор, который может обнаружить специальный детектор. Если таких последовательностей набирается достаточно много, система может определить, что текст создан нейросетью. При этом сам знак остается внутри текста и сохраняется при копировании и вставке. Как и где будет применяться эта технология? Эти вопросы “Ъ FM” обсудил с IT-экспертом Кириллом Ситновым:
«Если говорить про графические изображения и видео, созданные при помощи нейросетей, то никаких вопросов не возникает: мы вносили обычные вотермарки, которые на картинках видим у различных авторов. Здесь принцип будет тот же самый.
Зачем стриминги вводят маркировку нейромузыки
В случае текстовых материалов, скорее всего, речь станет идти речь об определенной комбинации символов и, скажем так, определенных речевых оборотах, которые человеком обычно не используются. Это единственный вариант, который позволит максимально защититься и сделать так, чтобы автор самостоятельно не удалил такие пометки. Также, помимо этого, еще вносятся специальные символы. Если мы говорим, допустим, про написание кода при помощи нейросетей, то в его текст все время вставлялись какие-то комментарии.
Во многих европейских вузах, когда через систему антиплагиата начали проверять диссертации и другие тексты, столкнулись с тем, что никакой алгоритм не может отследить, созданы ли они человеком либо нейросетью. Ошибаются и в том, и в другом направлении.
Есть вопрос и по музыкальным произведениям, которые выкладываются на различных площадках. Кому в этом случае должна капать монетизация: автору, который использовал в своем творчестве ИИ, либо непосредственно компании, которой принадлежит нейросеть? Если все системы антиплагиата станут раскрывать авторство этого текста по определенным вотермаркам, то, естественно, будет легче решать вопрос, касающийся авторского права».
Новая технология будет применяться на всех тарифах ChatGPT и Codex. Однако есть способы обойти маркировку, заметил партнер Digital & Analogue Partners Юрий Брисов:
Какие риски для брокеров создает торговля с помощью ИИ
«Водяные знаки имеют два уровня внедрения. Первый направлен на провайдеров и сервисы, которые обязаны обозначать материалы, созданные ИИ, и помечать их машиночитаемыми знаками. И дальше уже на уровне публикаторов стоит обязанность делать такие пометки, чтобы их могли прочитать люди, например, «данные материалы созданы искусственным интеллектом».
Таким образом, если мы видим текст или изображение с соответствующей пометкой, то понимаем, что, во-первых, речь не идет об авторском праве, а во-вторых, в принципе снимаем очень важные юридические и психологические вопросы восприятия информации.
Дмитрий Дризе — о проблемах с искусственным интеллектом
В частности, Anthropic маркирует по всему миру продукты, созданные в рамках Claude, это их собственное решение. Они помечают в принципе любой контент, для создания которого использовался ИИ. Даже если вы написали текст целиком и дальше попросили Claude расставить в нем запятые, то в этом материале уже появится соответствующая маркировка. Таким образом уже существенно усложнилась задача для писателей доказать свое авторство».
В OpenAI, в свою очередь, утверждают, что водяной знак не позволит установить личность пользователя или определить, сколько работы в тексте выполнил человек.