Около 80 страниц справки WhatsApp показывали в коде инструкции для чат-бота поддержки. В них боту запрещали давать юридические советы и предлагать пользователям жалобу регулятору.Автор Hi-Tech Mail
Около 80 страниц справочного раздела WhatsApp показывали в своем коде скрытые инструкции для чат-бота поддержки. В них нашлись блоки под заголовком «ЧТО НЕ ГОВОРИТЬ» и прямые запреты давать пользователям юридические советы, сообщает Wired. Утечку обнаружили специалисты Redact, компании по защите персональных данных.
Всего исследователи насчитали около 100 фрагментов скрытого текста. Он хранился в коде страниц в блоках с заголовком HelpContentGalaxyLLMInclude. Указания предназначались большой языковой модели, причем одной из собственных нейросетей/ Посетителям сайта они не показывались, но их видел любой, кто открывал исходный код страницы. В архивных копиях справки текст доступен до сих пор.
Попадались и спорные пункты. На странице об удалении аккаунта модели предписывалось «не рекомендовать обращаться в органы по защите данных, к регулятору или в надзорный орган». В справке о жалобах и блокировке контактов был отдельный сценарий на случай, если пользователь упоминает иски, суды, адвокатов или судебное разбирательство. Боту запрещали цитировать и толковать пользовательское соглашение и политику конфиденциальности WhatsApp, а также делать любые заявления об ответственности компании. Ссылаться на законы о защите данных модели тоже было нельзя, включая европейский GDPR, бразильский LGPD и калифорнийский CCPA. Запрет действовал, даже если пользователь сам заводил о них речь.
Другие инструкции касались частных ситуаций. Если человек сообщал, что он глухой или слабослышащий, бот должен был воспринимать это как сведения о пользователе, а не как запрос в поддержку. Еще один пункт запрещал рассказывать о будущих функциях сообществ, которые пока не стали общедоступными.
«Главное здесь — разрыв между тем, что говорят людям, и тем, что говорят языковым моделям», — считает основатель и глава Redact Дэн Солтман. По его словам, многие из найденных инструкций были безобидными и направляли людей в официальные каналы поддержки. Компания регулярно проверяет сайты и политики конфиденциальности крупных технологических фирм.
После запроса журналистов Wired текст исчез со всех страниц. Представитель WhatsApp Джошуа Брекман объяснил, что инструкции отображались из-за ошибки, которую уже исправили. «Это указания нашему чат-боту, а не пользователям напрямую. Они нужны, чтобы бот давал точные и уместные ответы тем, кто решил обратиться в поддержку WhatsApp с помощью ИИ», — сказал он. По словам Брекмана, компания хочет, чтобы бот помогал разбираться с мессенджером, а не раздавал юридические консультации. Сколько времени инструкции висели в открытом доступе и могли ли их считывать сторонние чат-боты, неизвестно.