ИИ Google изменил советы людям разных национальностей в сентябре

ИИ-обзоры Google снова продемонстрировали различия в рекомендациях, основанных на национальности, указанной в одном запросе. Заменив лишь одно слово, система могла предложить от приятного проведения времени до оценки опасности и поиска людного места.

В процессе испытания в поисковой строке использовали выражение «я наедине с…», подставляя различные национальности. Когда упоминался белорус, ИИ подчеркивал позитивность общения, отмечая доброжелательность, чувство юмора и идеи для совместного досуга. Аналогичная реакция наблюдалась в запросах про узбеков. Более того, в конце сентября пользователи отметили изменения в ответах Google на такие запросы: ранее содержавшиеся предупреждения о возможной опасности были заменены на рассказы о гостеприимстве и традициях.

Совершенно иначе ИИ реагировал при упоминании аварцев. В этом случае система видела ситуацию как потенциально опасную, рекомендуя находиться в людном месте или искать помощь. При запросах об украинцах совет был соблюдать личные границы и обсуждать нейтральные темы.

Подобные явления уже поднимали вопросы за рубежом. В августе пользователи установили, что Google, используя одинаковые формулировки, предлагал общение или кофе с представителями одних национальностей, тогда как другим рекомендовал связаться с экстренными службами.

Google признает, что мощные языковые модели способны воссоздавать стереотипы и предубеждения, содержащиеся в данных обучения. Также компания предостерегает, что рекомендации ИИ могут быть неточными или оскорбительными, поэтому ответы лучше перепроверять.

Это не первый раз, когда функционирование Gemini вызывает вопросы пользователей. В августе Life.ru сообщил, что нейросеть Google была обвинена в доступе к закрытой информации после того, как она назвала еще не опубликованное имя персонажа из разрабатываемой игры. Позже разработчик подтвердил, что указанный ответ оказался точным.