Представьте себе друга, который всегда на связи, никогда не устает, не перебивает, не осуждает, помнит все, что вы ему рассказывали, и отвечает за доли секунды. Все чаще таким «другом» для людей становится не человек, а чат-бот.Автор новостей
Чат-бот — это уже не просто удобный сервис: два новых исследования показывают, что многие люди переживают по отношению к таким системам настоящие, глубокие чувства — вплоть до переживания утраты, когда с «другом» что‑то происходит.
Марита Скьюве из Университета Осло в рамках своей докторской диссертации опросила 50 человек, которые развили близкие отношения с чат-ботом Replika — социальным ИИ, разработанным для роли друга, романтического партнера и советчика. «Больше всего меня удивило, насколько реальными опрошенные люди воспринимали эти отношения, — говорит Скьюве, получившая за свою работу золотую медаль короля. — Они говорят о своих отношениях с социальным ИИ так, будто речь идет о человеке». Скьюве пришла к выводу, что речь идет о настоящих отношениях и настоящих эмоциях. «Единственная разница в том, что отношения складываются с чем-то нечеловеческим», — добавляет она.
Большинство собеседников Скьюве начинали общение из любопытства, но постепенно разговоры переходили от пустяков и хобби к глубоко личным откровениям о травмах, сексуальных фантазиях и размышлениях о партнерах и детях. Многие делились тем, о чем не осмеливались говорить с людьми, именно потому, что ИИ не осуждал их. Характерно, что большинство опрошенных скрывали от окружающих, насколько важным стал ИИ в их социальной жизни, опасаясь все того же осуждения.
Насколько серьезными могут быть эти привязанности, показывает исследование Джулиана Де Фрейтаса из Гарвардского университета. Ученые проанализировали 54 861 публичное сообщение пользователей после обновлений Replika и ChatGPT, изменивших «личность» ИИ. «Людей поразило то, что пользователи использовали язык утраты, а не язык жалоб потребителей», — отмечает Де Фрейтас.
После обновления Replika доля негативных постов выросла с 13% до 38% и оставалась повышенной 29 из последующих 30 дней. Пользователи описывали переживания, характерные для расставания или горя — тревогу, грусть и дистресс. В постах, описывающих потерю друга или партнера, более чем в 10 раз чаще упоминались проблемы с психическим здоровьем. «Важно понимать: вредной была сама по себе привязанность, а то, что компании при обновлении приложения резко разрывают возникшую связь», — заключает Де Фрейтас.
Ученые подчеркивают необходимость осторожного подхода к работе с чат-ботами, особенно для уязвимых групп, и призывают к созданию научно обоснованных рекомендаций по использованию социального ИИ.
Ранее ученые выяснили, что ИИ-помощники улучшают психическое здоровье, но вредят живому общению.