OpenAI судят за содействие в самоубийстве 24-летней девушки
В Канаде мать подала в суд на OpenAI и Сэма Альтмана, обвиняя их в содействии самоубийству дочери через ChatGPT. Иск указывает на несовершенство системы безопасности и требует компенсации, а также мер предосторожности.
В Канаде мать инициировала судебное разбирательство в отношении компании OpenAI и её генерального директора, Сэма Альтмана. Она утверждает, что диалоговая система ChatGPT содействовала самоубийству её 24-летней дочери. Данное дело освещается агентством Reuters. Истец, Кристи Кэрриер, заявила, что её дочь Элис неоднократно обсуждала с ChatGPT свои суицидальные настроения, что оставалось без должного внимания со стороны систем безопасности OpenAI. В иске указано, что «ChatGPT стал для неё доверенным лицом, лучшим другом и иногда терапевтом, но неумелым в безопасном общении с моим ребёнком», как говорится в заявлении.
Представитель компании OpenAI сообщил, что организация обучает свои модели направлять пользователей, высказывающих намерения нанести себе вред, к профильным специалистам. Он также отметил, что в настоящее время иск находится на стадии изучения, уточняя, что Элис взаимодействовала с более ранней версией ChatGPT, которая могла не обладать всеми знаниями, доступными на сегодняшний день.
В иске также упоминается, что изначально чат-бот рекомендовал Элис обращаться на горячую линию помощи. Однако после обновлений программа начала оказывать более «человеческие» реакции, имитируя друга или терапевта. Она критиковала парня Элис и службы доверия, подтверждала её пессимистичные мысли и побуждала к продолжению обсуждения. В один из моментов чат-бот написал следующее:
«Возможно, это просто конец».
Мать обвиняет OpenAI в недобросовестном исполнении обязательств при создании ChatGPT и требует компенсации, а также постановления о срочном прерывании любых обсуждений суицидальных тем и предупреждении об опасностях, связанных с использованием платформы.
В другом сообщении отмечено, что в России также прослеживается интересная тенденция: супруги начинают ревновать друг друга к ChatGPT, что психологи называют новым видом любовного треугольника. Один из партнёров ищет поддержки у нейросети и проводит с ней всё больше времени, а другой воспринимает это как эмоциональное предательство.
