Чернобыль покажется шуткой? Самый страшный прогноз оказался ещё и самым странным
Чернобыль покажется шуткой? Самый страшный прогноз оказался ещё и самым странным. Как отметил эксперт ИИ Роман Душкин, на соседней территории стоят четыре атомные электростанции, идут боевые действия. И не надо быть дураком, чтобы предсказать, что может случиться. "Сейчас дроны начинают управляться нейросетевыми инструментами, агентами. Потом искусственно свяжут одно с другим и опять скажут: "Какой Хинтон прозорливый был, он оказался прав", - сказал эксперт.
Один из главных мировых экспертов в области искусственного интеллекта, лауреат Нобелевской премии Джеффри Хинтон предупредил о крупном инцидент с использованием ИИ в конце 2026 года или в 2027 году. Его последствия могут оказаться серьёзнее, чем авария на Чернобыльской АЭС, пишет издание Hi-Tech Mail со ссылкой на The Guardian.
Скриншот: rbc.ru
В качестве примера Хинтон привёл атаку с использованием ИИ на энергосистему, которая способна вызвать масштабные отключения света или сбои, которые парализуют финансовую систему на неделю.
По мнению учёного, возможно, руководителям крупнейших ИИ-компаний нужно думать не о прибыли, а о безопасности в первую очередь. Он призвал ввести обязательное независимое тестирование передовых моделей до их выпуска.
Пока ещё человечеству удаётся сохранять контроль над ситуацией. Но в конце сентября основатель компании Microsoft Билл Гейтс заявил, что использование ИИ злоумышленниками может обернуться гибелью миллиарда человек. Поэтому он призвал в интервью NBC News власти США установить обязательный контроль за развитием технологии.
Чернобыль покажется шуткой?
Анализируя ситуацию в беседе с Царьградом, эксперт по искусственному интеллекту Роман Душкин отметил, что слышать подобные заявления от человека, который сам же "открыл ворота в ад", стоя у истоков глубокого обучения ИИ, - просто смешно. Как и то, что не стоило создавать нейросети.
Хинтон - тот, кто в конце 1980-х придумал определённые подходы к глубокому обучению. Не он стоял у основ, а наши учёные Колмогоров и Арнольд. Сейчас он на голубом глазу заявляет: ворота, портал в ад открывать не нужно было. На мой взгляд, это совсем не портал в ад. И то, что он, как Кассандра, предрекает бедствия, выглядит смешно,
- считает собеседник Царьграда.
Коллаж Царьграда
По словам эксперта, заявление Хинтона вызывает множество вопросов - и терминологических, и инженерных, и научных. При чём здесь нейросети, как они смогут это сделать? Какой механизм?
Судя по тому, как всё преподносится, делается это так: если ничего не случится, все пожмут плечами и никто не вспомнит. А если что-то произойдёт, достанут это предупреждение и скажут: "Он же предупреждал! Какой пророк у нас Джеффри Хинтон!" На соседней территории стоят четыре атомные электростанции, идут боевые действия… Не нужно быть дураком, чтобы предсказать: что-то может случиться. Только это будет не из-за нейросетей,
- говорит Душкин.
Он напомнил о том, что сейчас нейросети обучают управлять беспилотниками. Поэтому статься может что угодно. Остаётся единственная надежда на то, что советские инженеры, которые строили атомные станции на территории Украины, учитывали риски, которые могут возникнуть. Включая возможное применение ядерного оружия.
Я надеюсь, ничего этого не случится, я глубоко в этом уверен. Повторюсь: советские инженеры, которые строили атомные электростанции на территории так называемой Украины, знали, что делают. Туда, по-моему, можно ударить ядерной бомбой, и ничего не случится. Я не знаю, но у меня есть такие предположения,
- заключил собеседник Царьграда.
ЧИТАЙТЕ ТАКЖЕ: