Искусственный интеллект увеличивает недовольство пользователей чат-ботами
Исследование в журнале MIS Quarterly выяснило, что чат-боты, проявляющие "эмпатию", вызывают дискомфорт у пользователей. Избыточная псевдоэмпатия воспринимается как неестественная и вторгающаяся в личное пространство, снижая доверие и удовлетворённость сервисом.
Попытки сделать чат-боты более "эмпатичными" могут вызывать противоположный эффект, раздражая пользователей — к такому выводу пришли авторы исследования, опубликованного в журнале MIS Quarterly.
В рамках исследования учёные провели три эксперимента, среди которых были сценарии с участием реального чат-бота на основе большой языковой модели. Они оценивали реакции пользователей в ситуациях, когда система не только решала проблему, но и пыталась "сочувствовать", произнося фразы такие как:
понимаю ваше разочарование
Результаты исследования продемонстрировали, что подобные старания нередко вызывают психологический негатив. Пользователи испытывают дискомфорт из-за ощущения, что машина "считывает" их эмоции и вмешивается в их личное пространство. В результате, такие боты оцениваются как менее компетентные, а уровень доверия, удовлетворённости сервисом и общей оценки взаимодействия снижается.
Проблема заключается не в нехватке "теплоты", а в том, что чрезмерная псевдоэмпатия воспринимается как неестественная и навязчивая.
Исследователи делают вывод, что стремление сделать ИИ предельно человекоподобным не всегда оправдано, особенно в тех случаях, когда клиент уже раздражён и ожидает не сочувствия, а оперативного и понятного решения.
Ранее на портале Life.ru сообщалось, что доверять нейросетям своё здоровье может быть небезопасно, так как они не учитывают индивидуальные особенности пациента. Медики всё чаще сталкиваются с пациентами, которые пытались лечиться по рецептам из интернета, но в конечном итоге лишь ухудшили своё состояние. Подробнее читайте в разделе "Эксклюзивы".