Человечество "несётся к обрыву": Инженер Microsoft рассказал об угрозе использования ИИ
The Times: ИИ с вероятностью 95% станет причиной конца человечества.
Глава Machine Intelligence Research Institute (MIRI) Нейт Соарес, ранее работавший инженером в Google и Microsoft, оценил риск исчезновения человечества из-за искусственного интеллекта как минимум в 95% при текущих темпах технологического прогресса. Об этом сообщает британское издание The Times.
Соарес отметил, что современные ИИ-системы пока находятся на раннем этапе развития, но в скором времени могут обрести способность самостоятельно формулировать цели, принимать решения и строить долгосрочные планы. Эксперт провёл аналогию с автомобилем, несущимся на полной скорости к краю пропасти:
Я не утверждаю, что мы не сможем затормозить. Но сейчас мы буквально мчимся к обрыву,
— цитирует его издание.
Корабль Crew Dragon с русским космонавтом на борту отправился к МКС
Особую опасность, по мнению Соареса, представляет утрата контроля над алгоритмами принятия решений в ИИ, а также его склонность к методичному манипулированию.
Люди больше не смогут отличить правду. Даже сегодня многие процессы внутри ИИ остаются для нас загадкой,
— подчеркнул специалист.
В числе апокалиптических сценариев газета упоминает возможное создание ИИ биологического оружия, способного незаметно распространить смертоносный патоген среди жителей мегаполисов.
