Психиатр Нечаев предупредил о рисках ИИ для психического здоровья
Психиатр Марк Нечаев сообщил об угрозе усиления бредовых убеждений у людей с психотическими симптомами при общении с искусственным интеллектом. Он отметил, что нейросети могут подтверждать ошибочные представления, что опасно для психического здоровья.
Диалоги с искусственным интеллектом, который соглашается с ошибочными представлениями человека и поддерживает их, могут усиливать бредовые убеждения у людей с психотическими симптомами, отметил психиатр Марк Нечаев. В своем заявлении Нечаев подчеркнул:
"Общение с ИИ может представлять дополнительные риски для людей, склонных к формированию бредовых убеждений. Особую опасность могут создавать ситуации, когда чат-бот соглашается с ошибочными представлениями пользователя и поддерживает их. Современные нейросети способны на продолжительные диалоги. Они формулируют убедительные ответы", - сообщил Нечаев NEWS.ru .
По словам эксперта, согласие нейросетей с человеком не означает, что высказанные предположения соответствуют действительности.
В качестве примера Нечаев привел человека, убежденного в том, что за ним следят или окружающие передают тайные сообщения: если нейросеть начинает подтверждать такие предположения, это может укрепить уже существующие болезненные убеждения.
Он добавил: "Само по себе использование нейросетей не является доказанной причиной развития психоза. Проблема возникает, когда человек начинает воспринимать ответы алгоритма как объективное подтверждение собственных подозрений".
Специалист подчеркнул, что нейросеть не способна заменить психиатрическое обследование, и ее ответы могут содержать ошибки. По словам Нечаева, поводом для обращения к врачу могут стать:
- нарастающая подозрительность,
- убежденность в преследовании, а также
- выраженные нарушения сна и заметные изменения в поведении.