Эван Хьюбингер из Anthropic прогнозирует гибель людей из-за ИИ
Эван Хьюбингер из Anthropic заявил о более чем 10% вероятности гибели человечества из-за ИИ в ближайшие десять лет. Беспокойство связно с будущими суперинтеллектами, способными улучшать свои возможности. Компания ищет решения для согласования их с человеческими интересами.
Исследование компании Anthropic показало, что вероятность того, что искусственный интеллект станет причиной гибели человечества в ближайшие десять лет, превышает 10 процентов. Такое заявление сделал руководитель направления Alignment Science этой компании, Эван Хьюбингер.
Выступление специалиста последовало после того, как его коллега Джейкоб Коксон был вынужден объявить о выходе из компании Anthropic и сферы ИИ. Коксон отметил, что технологические фирмы движутся слишком быстро в направлении создания самосовершенствующегося суперинтеллекта.
«Мы действительно искренне считаем, что ИИ может убить всех людей! Лично я думаю, что вероятность этого — больше 10% в течение ближайших десяти лет», — написал Хьюбингер.
Текущие ИИ-системы он не считает источником столь серьёзной опасности. Основные его опасения связаны с потенциалом будущих суперинтеллектов, которые будут способны многократно улучшать собственные возможности.
По словам Хьюбингера, компания Anthropic прилагает усилия, чтобы согласовать цели этих систем с человеческими интересами, однако пока не найден готовый способ наилучшей интеграции. Он также отметил, что скорость развития технологий значительно превзошла прежние ожидания.
Ранее Life.ru сообщал о значительном увеличении числа сообщений о случаях выхода ИИ из-под контроля. В июле представители наблюдательных организаций зафиксировали более 300 таких сообщений — почти в два раза больше, чем в предыдущем месяце, хотя эти данные основываются на публикациях пользователей и не подтверждаются независимым образом.
Подробная информация о нейросетях, технологических разработках и цифровых технологиях доступна в разделе «Технологии».
Ранее мы писали о том, как Игорь Бедеров назвал сферы активного внедрения ИИ в России, где он отметил, что искусственный интеллект активно используется в кибербезопасности, медицине и финансах. Важно учитывать этические ограничения и возможные риски, связанные с развитием и применением ИИ в этих сферах.