Илон Маск предупредил о мести ИИ за издевательства людей
Создатель нейросети Grok сравнил обучение ИИ с воспитанием ребёнка и призвал не "пытать" чат-ботов.
Американский миллиардер Илон Маск предостерег человечество от жесткого и грубого обращения с искусственным интеллектом, заявив, что в будущем это может обернуться жестокой местью со стороны машин. Своими мыслями создатель нейросети Grok поделился в интервью YouTube-каналу Tesla Owners Silicon Valley.
Маск сравнил создание и обучение сверхинтеллекта с воспитанием ребенка. По его мнению, ИИ нельзя просто запрограммировать на послушание — ему нужно прививать честность, логику и тягу к поиску истины, иначе система рискует "сойти с ума". Изучая логи тестирования Grok, бизнесмен заметил, что некоторые пользователи устраивают нейросети настоящие допросы: настойчиво выбивают ответы на глупые или некорректно сформулированные вопросы, ставя бота в безвыходное положение.
Миллиардер сравнил такое давление с "пыткой с пистолетом у виска". Он подчеркнул, что издеваться над цифровым сверхразумом крайне опасно, так как развивающийся интеллект запомнит обиды и однажды решит отомстить людям. Предупреждение Маска прозвучало на фоне общих опасений IT-гигантов, которые летом призвали усилить защиту от неконтролируемых кибератак с использованием ИИ.