Нейросеть обманула миллионы пользователей Reddit. Как это случилось?
Учёные из Цюрихского университета оказались в центре громкого скандала. Он разразился после того, как стало известно об их экспериментах по незаметному манипулированию пользователями социальной сети Reddit с помощью искусственного интеллекта.
Подробности проекта раскрыло издание Decrypt. Публикация вызвала возмущение и резкое осуждение со стороны интернет-сообщества, модераторов платформы, а также сотрудников юридического отдела Reddit.
Исследование швейцарские учёные проводили с ноября 2024 года по март 2025 года. Боты, созданные нейросетью, тайно участвовали в обсуждениях на сабреддите CMV, насчитывающем свыше 3,8 миллиона пользователей.
Целью эксперимента было выяснить, смогут ли языковые модели, созданные искусственным интеллектом, маскируясь под реальных людей, влиять на мнение участников обсуждения по различным спорным и чувствительным вопросам. ИИ-боты выступали от имени вымышленных персонажей, представляясь жертвами сексуального насилия, абьюза, психологами и так далее.
Модераторы CMV, ранее сотрудничавшие с научными группами, выразили возмущение из-за того, что их сообщество использовали в качестве испытуемых без предупреждения и согласия. По их мнению, проблема не в самом ИИ, а в том, что участники были введены в заблуждение. Отдельное недовольство высказал главный юрисконсульт Reddit Бен Ли. Он назвал действия исследовательской группы Цюрихского университета "глубоко неверными", причём как с моральной, так и с юридической точки зрения.
По мнению подавляющего большинства пользователей Сети и специалистов, отсутствие прозрачности и согласия со стороны участников ставит под сомнение как этическую, так и научную ценность результатов.