Привычка спрашивать у нейросети «где купить» обернулась неприятным открытием. Британский сервис проверки на мошенничество Ask Silver выяснил, что ChatGPT в своих ответах ссылается на поддельные магазины — сайты-клоны, созданные ровно для того, чтобы выманить у покупателя данные банковской карты.
Всё вскрылось на простом сценарии. Исследователи спросили у нейросети про популярные сумки и кошельки бренда Russell & Bromley — в ответ ChatGPT выдал список товаров, цены и ссылки на источники. Вот только часть этих ссылок вела не на официальный магазин, а на мошеннические копии, замаскированные под него. Человек, доверившийся рекомендации ИИ, рискует ввести платёжные данные прямо в руки злоумышленникам.
И вот тут начинается самое интересное — почему так вышло. Russell & Bromley в январе 2026 года ушёл в банкротство и был поглощён сетью Next, так что официального сайта у бренда больше нет. Но люди по привычке продолжают его искать, и этой дырой воспользовались мошенники: на месте исчезнувшего магазина выросли фейки с правдоподобными адресами вроде therussellbromleyofficial и скидками до 80%, ловящие невнимательных покупателей.
Соосновательница Ask Silver Анна Джонс (Anna Jones) предположила, что языковую модель ChatGPT могли «отравить». Это приём, при котором вредоносный контент намеренно внедряют в данные, на которые опирается ИИ — через клонированные страницы и поддельные сигналы доверия, чтобы система принимала мошеннические сайты за надёжные источники. Иными словами, виноваты не только сами аферисты, но и то, как нейросеть собирает и ранжирует информацию из открытого интернета.
В OpenAI отреагировали быстро: представитель ChatGPT сообщил, что поддельные сайты удалены из поискового индекса, а пожаловаться на подозрительные ресурсы можно через специальную форму. Проблема, впрочем, шире одного случая — по данным NordVPN, число фейковых магазинов подскочило на 250%, ведь теперь клонировать бренд можно за минуты с помощью тех же ИИ-конструкторов. А ставки только растут: ChatGPT уже позволяет оформлять покупки прямо в интерфейсе, и чем больше люди доверяют ИИ свои кошельки, тем привлекательнее такая мишень для мошенников.
Тест по теме 10 вопросов Dominika Putyrskaya 23 июля 2023 Нейросети — это та штука, которая одновременно и ужасно пугает, и заставляет радоваться прогрессу. Например, разработчикам явно стало намного проще придумывать персонажей и их внешность: указал параметры — и готово! В этом тесте мы поступили так же: прописали данные и получили картинки, в которых зашифрованы известные игры и герои. Сможете угадать всех? Начать
Доверяете ли вы рекомендациям нейросетей при покупках или предпочитаете заходить на сайты магазинов напрямую? Расскажите в комментариях.