"Вероятность гибели в 300 раз больше, чем от ядерной войны": Панченко рассказала об ужасах ИИ
Для большинства нейросети пока малоизученный инструмент. С одной стороны они помогают быстрее и эффективнее справляться с различными задачами, а с другой - беспокоит скорость их прогресса. То, что когда-то казалось научной фантастикой, не первый год является реальностью. Если вдуматься: искусственный интеллект активно принимает участие в СВО - технологии Palantir,. помогающие ВСУ тому подтверждение. А что будет дальше? Украинская журналистка Диана Панченко рассказала об ужасах ИИ: "Вероятность гибели в 300 раз больше, чем от ядерной войны". Подробности - в материале Царьграда.
Человечество может быть уничтожено в ближайшие 10 лет, полагает руководитель направления стресс-тестирования согласованности ИИ в американской компании Anthropic Эван Хьюбингер. Правда, вероятность такого апокалипсиса, по его мнению, составляет около 10%. Много это или мало - каждый должен решить сам.
Стоит отметить, что накануне из вышеуказанной корпорации ушёл исследователь Джейкоб Коксон. Он решил порвать с индустрией, потому что технологическая гонка приближает мир к "точке невозврата" и может привести к катастрофическим последствиям уже в конце 2027 года.
Джейкоб в этом прав. Мы действительно искренне считаем, что ИИ может убить всё человечество! Лично я думаю, что (вероятность этого – Ред.) это больше 10% в течение ближайших десяти лет,
- написал Эван в социальной сети Х.
Скриншот: Телеграм-канал "ПАНЧЕНКО"
Хьюбингер отмечает, что созданные разработки не представляют большой угрозы, но тревогу вызывают "суперинтеллекты, возникающие в результате повторного самосовершенствования". Специалист подчеркнул: "Как мы говорили, это происходит быстрее, чем мы думали".
Что же ожидает человечество в ближайшем будущем? Война с роботами? Противостояние с цифровым мегамозгом? Пока предугадать сложно. Тем временем журналистка Диана Панченко рассказала об ужасах ИИ. Для понимания масштаба она отметила, что "вероятность гибели человечества в ядерной войне оценивается около 0,05%". Следовательно, "вероятность гибели" от нейросетей в 300 раз больше, чем от ядерной войны.
Дело не в том, что у ИИ появится разум и он начнёт управлять каждым из нас в своих интересах (хотя и этого ведущие эксперты не исключают). Дело в скорости развития. ИИ развивается по экспоненте. 4 года назад он не мог выделить квадрат на рисунке. Сегодня делает полноценные фильмы и игры по короткому промпту. И скорость развития становится быстрее. Глава минфина США об ИИ-гонке: "Если мы отстанем, всё остальное уже не будет иметь значения". Упростим. Мы с вами давно не ездили за рулём. И нам дают спорткар, который разгоняется до 300 км/ч за одну секунду. И можно быть уверенными, что он нас угробит в первом же повороте. Не потому что человек не умеет водить машины. Не потому что человек не может ездить 300 км/ч. А из-за скорости. Наша скорость реакции медленнее скорости разгона автомобиля. То же самое с ИИ,
- написала она.
Примечательно, что накануне стало известно, что искусственный интеллект решил задачу Навье-Стокса - одну из семи "задач тысячелетия", опубликованных Математическим институтом Клэя, чтобы привлечь внимание к самым сложным нерешённым задачам в этой области.
ЧИТАЙТЕ ТАКЖЕ: