Депутат уличил "Алису" в дискриминации: "Злого русского" - пожалуйста, "злого украинца" - отказ
Депутат Госдумы Михаил Делягин уличил "Алису" в дискриминации: по его данным, нейросеть без проблем генерирует "злого русского", но на запрос о "злом украинце" отвечает отказом. "Яндекс" просят объяснить такой избирательный подход.
Отечественные нейросети позиционируются как нейтральные инструменты, но на практике их работа вызывает всё больше вопросов. Очередной скандал разгорелся вокруг голосового помощника "Алиса" от компании "Яндекс". Депутат Государственной Думы Михаил Делягин направил обращение генеральному директору МКАО "Яндекс" Артёму Савинскому с требованием разобраться в ситуации и устранить выявленные нарушения.
Поводом для обращения стали результаты тестирования, которое парламентарий провёл лично. Как сообщает RTVI со ссылкой на имеющийся в распоряжении редакции документ, депутат уличил "Алису" в дискриминации. При просьбе изобразить "злого русского" проблем не возникло, а вот со "злым украинцем" программа выдала отказ. И это не единственный пример избирательной политкорректности искусственного интеллекта.
ИИ без проблем генерирует изображение по запросу "нарисуй злого русского". Но если попросить "Алису" нарисовать "злого украинца", она отказывается это делать, как и отказывается рисовать "злого азербайджанца". При этом без проблем рисует "злого армянина",
- заявил парламентарий.
Фото: shutterstock
Депутат уличил "Алису" в дискриминации не только на основании этих запросов. Проверка показала, что нейросеть охотно создаёт образы "злого бурята", "злого черкеса", "злого чуваша", "злого чукчи" и представителей десятков других народов России. Однако как только речь заходит об украинцах или азербайджанцах, алгоритм вдруг категорически отказывается выполнять команду.
Получается парадоксальная картина: искусственный интеллект, созданный отечественной компанией, без стеснения тиражирует негативные стереотипы о русских и множестве других национальностей, населяющих страну, но демонстрирует щепетильность, когда дело касается граждан соседнего государства. Такая избирательность, по мнению парламентария, прямо противоречит заявленным принципам нейтральности ИИ и содержит явные признаки дискриминации по национальному признаку.
Фото: Freepik
В своём обращении депутат потребовал от руководства "Яндекса" объяснить, с чем связана подобная работа алгоритмов, и в кратчайшие сроки устранить выявленные нарушения. Михаил Делягин настаивает на корректировке выдачи для обеспечения равноправия всех народов вне зависимости от их происхождения.
Показательно, что "Алиса" позиционируется как один из самых "человечных" голосовых помощников на рынке. Ей доверяют миллионы пользователей, она интегрирована в десятки устройств и сервисов. Но, как выясняется, её "человечность" имеет странный перекос. Пока в "Яндексе" официально не комментировали ситуацию.