Ученые выяснили, что нейросети гораздо «альтруистичней», во всяком случае в финансовых вопросах, чем человек.
Такой основной вывоз сделали исследователи из Национального исследовательского университета «Высшая школа экономики» (Пермь), которые экспериментировали с ИИ, играя в экономическую игру «Диктатор». Именно она изначально была создана для изучения поведения людей в условиях неравного распределения ресурсов.
Ее суть в том, что игрок («диктатор») получает определенную сумму денег и решает, какую часть оставит себе, а какую передаст другому анонимному участнику, не имеющему возможности повлиять на его решение. Наиболее рациональный вариант, конечно, — оставить все деньги себе, но обычно игроки-диктаторы передают около 28−30% средств второму игроку. Ученые объясняют это присущими людям стремлением к справедливости, альтруизмом и заботой о благосостоянии другого.
Нейросети оказались гораздо щедрее, чем реальные участники экспериментов. Они отдавали суммы на 41−68% больше, чем человек. Когда же нейросетям разрешали забрать ресурсы у второго игрока, они делали это в среднем на 29% реже, то есть были более щедрыми, чем люди.
«Нужно понимать, что “альтруизм” моделей — это не то же понятие, которое мы обычно применяем к людям, — говорит, комментируя результаты проекта, его руководитель Петр Паршаков. — У нейросетей нет собственных предпочтений, эмоций или мотивации. Они обучаются на больших массивах текстов, где представлены разные формы человеческих решений и аргументации. Поэтому они могут воспроизводить разные варианты поведения и разные способы их обоснования».
Иными словами, мы получим от нейросети такое поведение, которое мы же в нее заложили при обучении. Поэтому с большой осторожностью надо относиться к модным сегодня исследованиям важных социальных и экономических проблем, где предполагается, что нейросети могут довольно точно имитировать поведение людей. Например, заменять респондентов в опросах, а также применяться как аналог людских сообществ при моделировании интерактивных «малых городов», социальных движений и мировых конфликтов.
Работа ученых показала, что нейросети можно использовать только для предварительного моделирования поведения людей, но не в качестве полноценной замены реальным участникам поведенческих экспериментов.