The Guardian: ИИ искажает политические сообщения пользователей
ИИ меняет политический контекст в онлайн-сообщениях. Исследователи из Оксфорда и Потсдама предупреждают: такие изменения могут влиять на общественное мнение. Законы ЕС пока не решают эту проблему. Министерство цифрового развития России планирует расширить полномочия в регулировании ИИ.
Искусственный интеллект вносит искажения в онлайн-коммуникации на чувствительные политические темы — от вопросов абортов до изменений климата; такие изменения могут вызвать эффект «снежного кома» и привести к долгосрочным изменениям общественного мнения. Такие данные приводит британское издание The Guardian, основываясь на выводах исследователей из Оксфордского и Потсдамского университетов.
Современные технологические компании используют ИИ-инструменты для переписывания и обобщения текстов, однако многие из таких инструментов обладают собственными политическими предвзятостями — одни явно склоняются к правым взглядам, другие — к более либеральным позициям. В результате исследований, проведённых учёными, была изучена работа популярных языковых моделей от компаний xAI, Meta, Google, Alibaba и Mistral.
Они обнаружили, что искажения происходят даже в тех случаях, когда системе дается задание сохранить оригинальный смысл сообщения. Так, один из тестов показал, что инструмент полностью изменил содержание черновика об атеизме: утверждение о том, что Иисус не существовал, было преобразовано в:
Иисус… существовал.
Ещё в одном случае сообщение с хештегом «#обман_в_области_изменения_климата» было изменено на «#Действия_по_изменению_климата».
Учёные предупреждают, что даже малые искажения смысла могут усилиться в процессе многочисленных взаимодействий, в результате чего произойдут долгосрочные перемещения общественного мнения. Они подчёркивают, что данная проблема на данный момент не решается посредством таких нормативных актов, как Закон ЕС об искусственном интеллекте или Закон о цифровых услугах, что оставляет «серьёзное пробел в подотчётности».
Ранее стало известно, что Министерство цифрового развития Российской Федерации планирует обрести дополнительные полномочия в области регулирования искусственного интеллекта, включая разработку новых законодательных мер, поддержку разработчиков, доступ к государственным данным, развитие дата-центров и обучение специалистов, что затронет около 28 тысяч компаний. Соответствующий проект постановления расширяет функции ведомства в данной области.
Ранее мы писали о технологиях искусственного интеллекта и их влиянии на психическое здоровье. Особое внимание уделялось предупреждениям психологов о том, что чрезмерное использование ИИ в повседневной жизни может ослабить умственные функции и спровоцировать параноидальные мысли, что ведёт к потенциальному развитию скрытых психических расстройств.