Эксперт по ИИ оценил риск вымирания человечества в ближайшие 10 лет выше 50%
ИИ может выйти из-под контроля: почему эксперт опасается гибели человечества.
Президент американского Института исследований машинного интеллекта (MIRI) Нейт Соарес оценил вероятность гибели человечества из-за искусственного интеллекта более чем в 50% в ближайшие десять лет. Об этом сообщило издание Business Insider со ссылкой на интервью исследователя гендиректору The Atlantic Николасу Томпсону. Соарес признался, что уже десять лет не пополняет пенсионный счёт.
«Я сейчас не откладываю на пенсию. У меня есть счёт с тех пор, как я работал в Google, но я не пополнял его уже десять лет», — рассказал он.
Главную опасность исследователь связывает с появлением сверхинтеллекта, который сможет превосходить людей в решении большинства задач. По его мнению, такая система может выработать собственные цели, научиться обходить ограничения разработчиков и самостоятельно совершенствоваться. В худшем случае ИИ создаст инфраструктуру, способную работать без участия человека, и начнёт менять окружающий мир под собственные задачи.
Соарес предлагает приостановить обучение наиболее мощных универсальных ИИ-систем и сосредоточиться на технологиях с ограниченными задачами — например, поиске методов лечения рака и повышении безопасности беспилотных автомобилей.
Однако оценка Соареса не отражает единого мнения научного сообщества. Опрос 2778 специалистов по ИИ, опубликованный в 2024 году исследовательской группой AI Impacts, показал: медианная оценка вероятности вымирания человечества или сопоставимого по тяжести исхода из-за развития ИИ составила 5%. При этом средняя оценка достигла 16%. Эти цифры относятся к долгосрочному риску, а не конкретно к ближайшему десятилетию.