Окно Овертона открыто, они могут убивать. Почему цифровым двойникам не надо умиляться
Актриса Ольга Будина в разговоре с Царьградом поделилась своими впечатлениями о стенде "Газпромнефти" с цифровыми двойниками на ПМЭФ. Она напомнила, что окно Овертона открыто уже давно, как и искусственный интеллект, который может убивать. На конкретных примерах Будина объяснила, почему не надо умиляться цифровым двойникам.
В разговоре с Царьградом актриса Ольга Будина в контексте появления на Петербургском международном экономическом форуме (ПМЭФ) стенда "Газпромнефти" с цифровыми двойниками напомнила слова американского специалиста по искусственному интеллекту Элиезера Ютковского, который предупреждал, что искусственный интеллект "ненавидит вас и не любит, но вы сделаны из атомов, которые он может использовать как-то по-другому".
"И вот в связи с представленным на ПМЭФ стендом я в очередной раз убеждаюсь, что шаги по внедрению цифровых технологий, по внедрению искусственного интеллекта в нашу жизнь делаются в ускоренном темпе", - отметила Будина.
Актриса также напомнила о трагической истории: американская журналистка и продюсер Линда Моупенхол обнародовала в 2018 году на конференции по проблемам искусственного интеллекта в Лос-Анджелесе информацию о гибели 29 японских учёных от рук ими же созданных роботов.
"Инцидент произошёл в одной известной компании по производству роботов в Японии. Четыре изделия, предназначенных для использования в военной сфере, убили 29 учёных из огнестрельного оружия. Двоих роботов удалось отключить, одного удалось вывести из строя. Однако четвёртый сумел подключиться к спутнику на орбите Земли, скачать данные для перепрограммирования и получить дополнительные навыки", - рассказала Будина.
По мнению актрисы, на экономическом форуме и подобных мероприятиях представляют только те технологии, которые можно показать широкому кругу людей. В действительности формирование искусственного человека продвинулось гораздо глубже и дальше, уверена Будина, напомнив про создание в США коры искусственного головного мозга, способной к сенсорному восприятию, особенному мышлению и речи.
"Наступит такой уровень развития искусственного интеллекта, при котором человек станет роботом, или исчезнет вообще. То есть это возможно. Неуправляемое развитие искусственного интеллекта представляет потенциально большую опасность, чем ядерное оружие и любые другие вызовы современности", - уверена актриса.
Она также напомнила высказывания писателя Айзека Азимова, который открыл окно Овертона в публичном пространстве.
"Мы воспринимаем всякие эти машинки и роботы-пылесосы с неким умилением, потому что они такие удивительные. Как это так - какая-то пластмасска или какой-то кусок пластика движется, что-то ещё делает. Мы до сих пор на них смотрим, как на домашних питомцев. Но это уже давно очень серьёзные вещи, и, повторюсь, открыто окно Овертона несколько десятилетий назад. И сейчас мы пожинаем плоды этих технологий, вернее, мы стоим на пороге пожинания этих плодов. И очень не хотелось бы, чтобы это случилось. Я как раз сторонница того, чтобы воспрепятствовать этому", - заключила Будина.