Переписки пользователей с искусственным интеллектом могут оказаться в открытом доступе не только из-за взлома, но и из-за ошибок управления доступом.
Об этом «Известиям» рассказал совладелец агентства по управлению репутацией «Сидорин Лаб», эксперт по искусственному интеллекту Никита Прохоров.
По словам специалиста, многие сервисы позволяют создавать публичные ссылки на диалоги для совместной работы. Если такой доступ открыт, поисковые системы могут проиндексировать страницу, делая переписки доступными посторонним.
«Это скорее ошибка управления доступом, чем компрометация инфраструктуры самого сервиса. Однако для пользователя последствия будут одинаковыми — конфиденциальная информация становится доступной посторонним», — отметил Прохоров.
Эксперт подчеркнул, что пользователи часто доверяют чат-ботам любую информацию, включая паспортные данные, телефоны, адреса, медицинскую информацию, документы, финансовые показатели и пароли. Такие данные не должны передаваться в открытые ИИ-сервисы, особенно корпоративные.
Использование зарубежных платформ требует оценки рисков: компании должны знать, где хранятся данные, как обеспечивается их безопасность и соответствует ли это внутренней политике. В организациях действуют правила, запрещающие загрузку документов с коммерческой тайной или персональными данными без разрешения.
Если переписка уже оказалась в открытом доступе, необходимо как можно быстрее закрыть ссылку, обратиться в поддержку сервиса для удаления материала и оценить, какие сведения были раскрыты. В случае утечки паролей или токенов их следует немедленно заменить.
Прохоров также отметил психологический аспект: пользователи начали воспринимать нейросети как доверенного коллегу, а не как внешний сервис. Из-за этого объем конфиденциальной информации, которую добровольно передают чат-ботам, растет быстрее, чем культура безопасной работы с ними.
Ранее в этот же день сообщалось, что в открытом доступе оказались диалоги клиентов китайского чат-бота DeepSeek, включая рабочие документы и личные сообщения. При использовании специального поискового запроса в системе Google в результатах отображаются переписки. Переход по ним позволяет просмотреть названия документов, которые отправлял пользователь, все заданные им вопросы и полученные от DeepSeek ответы.