Разработчики отечественного голосового помощника, внедренного в работу управляющих компаний, столкнулись с неожиданным эффектом машинного обучения. Всего через месяц после запуска нейросеть начала использовать в диалогах с абонентами ненормативную лексику. Инцидент произошел в одном из колл-центров сферы ЖКХ, сообщил на Сибирском строительном форуме президент НОТИМ Михаил Викторов.
По словам Викторова, разработчики заметили «коллизию» уже в первые недели эксплуатации — алгоритм перенимал речевые обороты у реальных пользователей, которые не стеснялись в выражениях при обсуждении коммунальных проблем. Ситуацию в профессиональном сообществе окрестили скорее забавной, чем критической, но нейросеть все же пришлось откатывать до «вежливой» версии.
При этом в отрасли подобные казусы рассматривают как неизбежную плату за эффективность. Согласно озвученным данным, внедрение голосовых роботов позволяет управляющим компаниям сокращать штат колл-центров в пять-шесть раз: вместо 20 операторов достаточно двух-трех человек. Нейросеть берет на себя до 90% входящих обращений, и лишь в каждом пятом случае требуется подключение живого специалиста — в основном при аварийных ситуациях или нестандартных запросах.
Статистика удовлетворенности, которую привели в НОТИМ, показывает, что 80% звонящих остаются довольны общением с ботом, даже несмотря на отдельные огрехи в его обучении. Правда, как именно измерялась эта удовлетворенность и учитывались ли в ней диалоги с «выучившим» мат алгоритмом, не уточняется.
Показательный случай произошел на фоне активной цифровизации жилищно-коммунального хозяйства. Автоматизация здесь традиционно тормозит из-за обилия нестандартных ситуаций, с которыми нейросетям работать сложнее, чем с типовыми запросами в банкинге или ритейле, но именно бытовой контекст и эмоциональные диалоги, видимо, становятся для ИИ той самой «стрессовой» средой, в которой он быстро перенимает человеческую манеру речи — со всеми ее особенностями.
А вам доводилось общаться с голосовыми ботами? Распознали ли вы в них нейросеть, и помог ли алгоритм решить проблему быстрее, чем живой оператор? Расскажите в комментариях