Роботы и угроза: Как предотвратить риск "восстания машин"
Сегодня мы находимся на новом витке развития, когда прогресс в области робототехники ставит перед нами новые и непростые вопросы, один из которых звучит так: грозит ли нам "восстание машин"? Профессор Николай Ким рассказал, как предотвратить риск "восстания машин" и нивелировать угрозу.
Существует ли риск того, что худшие сценарии голливудских фильмов о "восстании машин" всё же сбудутся и роботы захватят власть над человечеством? Например, советник президента Всемирного экономического форума в Давосе Клауса Шваба Юваль Харари уверен, что "через 10 лет ИИ (искусственный интеллект) будет править миром". По его мнению, внедрение алгоритмов ИИ во все сферы деятельности в итоге приведёт к тому, что большинство решений, от которых зависит судьба человека, будут приниматься именно компьютером.
И тогда власть постепенно перейдёт от человечества к этим новым чужеродным разумам,
- пугает прогнозом Харари.
Профессор кафедры "Робототехника" МАИ, кандидат технических наук Николай Ким в интервью для Царьграда уточнил, что, "пока роботы оснащены относительно низким уровнем интеллекта, суть конфликтов будет определяться возможным различием интересов, в частности, владельцев обслуживающих роботов и пользователей".
Коллаж: Царьград
Опасность конфликтов человек - робот будет возрастать при внедрении в роботов инстинкта самосохранения и, что ещё более важно, возможности их самоидентификации, появлении собственных мотиваций,
- продолжил свою мысль эксперт.
Хотя переход к "сильному" ИИ - это ещё достаточно отдалённая перспектива, но уже сейчас искусственный интеллект роботов может идти наперекор интересам конкретного человека или группы людей. Собеседник "Первого русского" отметил, что "такие конфликты с развитием искусственного интеллекта будут нарастать в самых разных сферах его применения".
Особенно высоки подобного рода риски в среде коллаборативных роботов, то есть роботов, которые могут работать в непосредственном контакте с человеком. Именно в них прежде всего будут закладываться функции самостоятельного принятия решений, а их деятельность будет непосредственно сказываться на человеке. Как предотвратить риск "восстания машин"?
Во-первых, считает профессор, необходимо законодательно регулировать степень применения искусственного интеллекта, нужно вводить определённые ограничительные стандарты. Но и тут, увы, не всё гладко.
Подобные меры не могут полностью исключить риски с развитием искусственного интеллекта, особенно в отношении отдельных компаний или разработчиков. Трудно абсолютно всех игроков заставить делать то, что договорились делать во всём мире, не повышать уровень ИИ до слишком высокого,
- пояснил суть проблемы Николай Ким.
Однако стратегической проблемой развития и широкого внедрения робототехники и искусственного интеллекта остаётся сложность долгосрочного прогнозирования возможных, в том числе глобальных, последствий этих технологий, резюмирует эксперт.