Роботы-убийцы уже нацелились на человечество

На форуме «Армия-2018» многие посетители обратили внимание на некое устройство перед входом на экспозицию концерна «Калашников», которое напоминало то ли вставший на ноги автомобиль-трансформер из американского мультика, то ли робота из фильма «Робокоп», с которым сразился главный герой.

Как оказалось, это робот и был. Прозвали его «Игорек», и он даже получил главную награду Минобороны за лучший инновационный продукт.

Впрочем, полностью на электронную машину убийства из американского кино «Игорек» не тянул. Он оказался всего лишь управляемым прямоходящим роботом весом 4,5 т. Что-то вроде ходячих танков из фильма «Аватар», особенно если в кабину засунуть злого полковника. Старина Маккейн тоже подошел бы, но умер, так и не побывав в Кубинке.

Собственно, в этом и проблема. То есть не в том, чтобы в робота посадить живого американского сенатора или, как в том же «Робокопе», обшить человеческий мозг стальными доспехами на электромоторчиках. Проблема начинается тогда, когда в некую боевую машину вставляется искусственный интеллект. Хотя бы даже такого уровня, который позволяет роботу узнать, например, главу Роскосмоса Дмитрия Рогозина и поприветствовать его словами: «Дмитрий Олегович, здравствуйте! Давайте поговорим!».

Д. Рогозин. Фото: www.globallookpress.com

Рогозин, правда, своим ответом машину не удостоил, но от этого созданная в Центре Хруничева «Базовая роботизированная платформа №1» не перестает быть символом бесконечно опасного будущего. Такого, когда какая-нибудь роботизированная платформа обидится на невнимание генерального директора и попробует выразить свое недовольство действием. И вот точно ли можно быть уверенным в том, что в ее искусственных мозгах найдутся и сработают ограничители, которые не позволят причинить вред человеку?

А тем более, когда речь идет о боевых платформах, на причинение оного вреда заточенных изначально...

Война роботов с людьми?

Выражения беспокойства по поводу возможной войны роботов с людьми множатся в последнее время в кругах западной общественности и на страницах прессы. Западной же. Особенно по мере того, как Россия (а также Китай) время от времени демонстрируют свое лидерство в оснащении боевых устройств и платформ элементами искусственного интеллекта. Там, на Западе, все больше раздается голосов, выражающих опасение перед «всеохватывающей разрушительной войной», которую могут устроить «роботы-убийцы».

Своего рода лидерами таких настроений и лидерами движения в пользу запрета боевых систем с искусственным интеллектом являются организации типа Human Rights Watch, Международный комитет красного креста (МККК), различные центры по правам человека. Ссылаются они, как правило, на то, что такие полностью автономные системы вооружений противоречат некоей Декларации Мартенса. В статье RT, рассказавшей о данной проблематике, эта декларация описывается как

положение, согласно которому новые военные технологии должны подчиняться "законам человечности" и "требованиям сознания" в случае, если в их отношении еще не разработаны нормы международного права.

А нормы такие не разработаны. По новейшим реалиям в науке и технике юридические нормы вообще практически не разработаны — ни по искусственному интеллекту, ни по цифровой идентичности, ни по криптовалютам, ни даже по объектам «мегасайенс».

Фото: TeeRaiden / Shutterstock.com

Вот потому разные активисты — типа упоминаемой в тексте старшего специалиста по вопросам вооружений Human Rights Watch и координатора «кампании за запрет роботов-убийц» Бонни Докерти — уже сегодня бьют в тревожные колокола, считая, что использование такого оружия «подорвет установленные стандарты морали и закона».

Не такая уж, кстати, лишняя озабоченность — ну в самом деле, какая мораль может быть у робота? И какой пиетет перед ценностью человеческой жизни в электрических сетях искусственного интеллекта?

Идея о передаче полномочий принятия решений о жизни и смерти холодным бездушным машинам, лишенным сочувствия и понимания, не стыкуется с Декларацией Мартенса, а у меня от нее стынет кровь,

— приводит RT слова специалиста по робототехнике Ноэля Шарки.

Собственно, она стынет у всех, кто видел фильм «Терминатор». Особенно там, где человечество в роли городских партизан пытается хоть как-то оспорить владычество машин над планетой.

Что можно сделать и что может быть сделано?

По данным активистов-«антироботников», сегодня на Земле ведутся разработки или даже уже используется 381 вид частично автономных систем вооружений в 12 странах. И перспективы этого сегмента только расширяются. Специалисты полагают, что полностью автономные системы вооружений станут пугающей реальностью уже через 20-30 лет. И точно ли тогда их можно будет удержать под контролем? Тем более в условиях, когда ведущие военные державы соревнуются в этой области буквально с пеной у рта и совершенно не собираются накладывать на свои исследования какие-либо запреты...

Более того, уже разрабатывающиеся летальные роботизированные системы не подпадают не только под добровольные ограничения, но даже и под действие «Конвенции ООН о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие». В «мозги» роботов могут быть внесены соответствующие «рамки», но кто может сейчас предугадать, что будет с этими рамками дальше, и не захотят ли «думающие машины» снять с себя ограничения, наложенные чуждой им гуманоидной цивилизацией. К тому же, что греха таить, цивилизация людей — гуманоидная, это бесспорно, но столь же бесспорно, что она далеко не всегда была и остается гуманной.

Фото: www.globallookpress.com

И остается только с ужасом представить себе тучи микроскопических беспилотников (а к этому ведет прогресс в этой области), которые сами автономны, автономны их стаи, общую стратегию которых определяет автономный же командный центр. Где, быть может, еще сидят офицеры и пытаются всеми этими автономиями управлять. А может быть, уже не сидят, а лежат, своей же электронной «мошкарой» до смерти искусанные, ибо простая теория управления говорит о том, что несколькими встроенными друг в друга автономиями долго надежно управлять невозможно.

Пока можно сказать одно: опасность эту общественность осознает. Встречи по теме «роботов-убийц» проходят достаточно регулярно, причем на женевских площадках. Одна из них проходит буквально сегодня, следующая состоится в ноябре. В общей сложности на превентивном обуздании еще никому не навредивших будущих «скайнетов» настаивают сегодня 87 стран. Но как этого добиться, когда против запрета на боевые автономные системы выступают, как уже сказано, ведущие военные державы, а также Израиль, неведомо пока никому.

Терминаторы на подходе...