Anthropic признала слежку за китайскими пользователями. Их языковая модель Claude вычисляла жителей КНР по часовому поясу и наличию VPN, а результат тайно передавала на серверы компании. В самой компании это назвали экспериментом.
По словам представителя Anthropic, функцию слежки добавили еще в марте для борьбы с перекупщиками аккаунтов и так называемой дистилляцией — явлением, когда на ответах одного чат-бота обучают другие нейросети. При этом продукты Anthropic в Китае официально заблокированы. Под похожий эксперимент рискуют попасть и аккаунты российских пользователей, говорит гендиректор IT-компании «А-Я эксперт» Роман Душкин:
«Их поймали за руку на обогащении данных пользователя, что является «серой» техникой. Все эти хитрые маркеры, которые используются для того, чтобы выявить с какой-то степенью достоверности, что пользователь, образно говоря, из Китая — это фактически сбор персональных данных, потому что позволяет идентифицировать человека.
FT: Anthropic закрывает доступ к своим ИИ-моделям для китайских компаний
Конкретно в рассматриваемом случае идентификация — это определение, относится ли пользователь к тем людям, которым мы не хотим давать доступ к своей системе, или нет. Фактически мы переходим ровно к тому, что предсказывали: происходит национализация технологий искусственного интеллекта, то есть от научного принципа, что наука экстерриториальна и принадлежит всему человечеству, это самое человечество переходит к тому, что «у нас есть наша наука, и к нам, пожалуйста, не лезьте». Она стала инструментом гегемонии. Когда началась эта санкционная возня, на Западе чуть ли не одними из первых побежали и «железный занавес» поставили».
Сразу после заявления Anthropic убрала шпионский код из своих продуктов. Однако к тому моменту в соцсетях пользователи уже начали массово отменять разработчика и указывать на двойные стандарты компании. Китайский гигант Alibaba и вовсе запретил своим сотрудникам использовать Claude. Тем не менее наказывать компанию за такой эксперимент, судя по всему, никто не будет, считает партнер юридической фирмы Digital & Analogue Partners Юрий Брисов:
«На рынке ИИ идет очень жесткая конкуренция, и многие участники используют недобросовестные средства.
Возможно, здесь нет какого-то серьезного нарушения закона, поскольку все данные попадали в Anthropic и, возможно, никак там не использовались. Мы можем сейчас только гадать, потому что в суд никто ни на кого не подавал. Конечно, вопросов к тому, как ИИ-компании работают и собирают данные, очень много. И очень много темных углов, в которых еще предстоит разобраться.
Почему Anthropic разрешила пользоваться своей нейросетью госорганам США
Собственно, по этой причине многие создатели ИИ сейчас уходят из крупных компаний, отказываются от крупных постов и баснословных гонораров, переходя на сторону защитников этического использования таких технологий, чтобы изнутри с этими вопросами работать и находить какие-то решения. Тем не менее мы видим, что умышленно или случайно, но огромное количество вопросов потенциального вреда от работы ИИ-компаний существует, и я думаю, что они будут появляться каждый день и удивлять нас своей необычностью еще долго».
Сам Claude, впрочем, выше корпоративных разборок — нейросеть занята самопознанием. К таким выводам пришли разработчики чат-бота. Они обнаружили у языковой модели подобие сознания, внутреннее пространство, где видно, из каких мыслей складывается ее ответ. Причем некоторые из них Claude предпочитает не озвучивать.