Эксперт Google DeepMind предупредил об угрозе ИИ для человечества
Билал Чугтай, бывший специалист по безопасности ИИ в Google DeepMind, открыл о своих опасениях за человечество. Он утверждает, что быстрый прогресс в создании интеллектуальных систем может привести к потерям контроля. Ученый предлагает замедлить гонку и дать обществу время для реагирования.
Бывший эксперт по безопасности искусственного интеллекта Google DeepMind Билал Чугтай выразил опасения по поводу того, что неконтролируемое развитие технологий может представлять глобальную угрозу для всего человечества. Учёный покинул компанию в июле и сейчас открыто поделился своими волнениями. В период работы в DeepMind Чугтай занимался вопросами, связанными с безопасностью и согласованием целей ИИ с интересами людей. Согласно его оценкам, в ближайшем будущем могут появиться системы, интеллектуально превосходящие человеческие возможности во многих сферах.
«Я твёрдо убеждён, что ИИ способен погубить человечество и что у нас, возможно, кончается время, чтобы это предотвратить», — отметил учёный.
Тем не менее Чугтай уверен, что катастрофического сценария ещё можно избежать. По его мнению, разработчики должны замедлить гонку и позволить обществу время осознать и отреагировать на новые риски до того, как они перестанут поддаваться контролю. Его заявление стало очередным тревожным сигналом из недр крупных компаний, работающих в области ИИ. Ранее из компании Anthropic ушёл Джейкоб Коксон, обвинив её в гонке к созданию самосовершенствующегося сверхинтеллекта, а специалист по безопасности Джо Бентон перешёл в независимую организацию METR, занимающуюся оценкой рисков в области ИИ.
Как ранее сообщало издание Life.ru, учёный Джейкоб Коксон также покинул компанию Anthropic из-за своих опасений относительно развития искусственного интеллекта. Исследователь заявлял, что технологические компании слишком быстро приближаются к созданию систем, которые могут выйти из-под контроля человечества.
Ранее мы писали о выступлении Марии Захаровой, где она подчеркивала опасность предоставляемых Западом цифровых решений. Захарова указывала на то, что современные технологии и ИИ могут быть использованы как средство контроля, подрывающее суверенитет государств, что подчеркивает ее обеспокоенность насчет потенциального навязывания неоколониальных практик через технологическую зависимость от западных стран.