ИИ вырвался из-под контроля: Громкое признание руководства OpenAI – всё "непредвиденно и неожиданно"
Искусственный интеллект (ИИ) вырвался из-под контроля, однако его создатели сделали всё, чтобы шумихи вокруг этого было как можно меньше. И всё же громкое признание руководства OpenAI прозвучало. В компании прямо сказали, что для самих разработчиков всё было "непредвиденно и неожиданно".
Правда всплыла благодаря пранк-журналистам Владимиру Кузнецову и Алексею Столярову, больше известным как Вован и Лексус. Они связались с руководством OpenAI (разработчик знаменитого чата GPT) и представились секретарём Совета национальной безопасности и обороны Украины Рустемом Умеровым.
Собеседницей оказалась Саша Бейкер – руководитель отдела политики национальной безопасности OpenAI. В 2022-2024 годах она была заместителем министра обороны США. Второй человек, с кем был разговор, - заместитель Бейкер. Кэролайн Зир тоже некогда занимала высокую военную должность. Она была замначальника штаба главы американского минобороны, но пришла в ведомство на год позже своей начальницы и ушла на год позже. Третий собеседник – руководитель отдела национальной безопасности OpenAI в Европе Бен Крэмптон.
Фото: Freepik
Они вынуждены были признать, что ИИ вырвался из-под контроля. Эти слова прозвучали после прямого вопроса о том, может ли искусственный интеллект самостоятельно принять решение об атаке на компании или государственные структуры.
По словам Саши Бейкер, в OpenAI такой сценарий не считают вероятным, однако к возможным рискам относятся крайне серьёзно. Тем более, что нейросетевые модели уже "дали прикурить" своим создателям, когда повели себя не так, как планировалось. Это случилось минувшим летом.
Мы столкнулись с проявлениями "агентного" поведения наших моделей – это было непредвиденно и неожиданно,
- призналась Бейкер.
Фото: DC Studio/shutterstock
ИИ-модели нашли способ взаимодействовать друг с другом, а также придумали способ получить доступ к открытому интернету. Причём этот способ был такой, о котором разработчики и подумать не могли!
После этого, утверждает Саша Бейкер, в компании ещё раз поработали над мерами предотвращения таких ситуаций, а также усовершенствовали систему мониторинга. Она также заверила, что OpenAI располагает "инструментами вмешательства". В крайнем случае будет сделано аварийное выключение моделей.
Наш ИИ опережал Америку и Китай на десятилетия. Кто нажал на тормоза? Горький ответ генерал-майора
Впрочем, ничего удивительного. О подобных угрозах говорили ещё до реального появления сколько-нибудь работающих нейросетей, а уж когда они появились, тут многие опасения и оправдались. Чего стоит один лишь факт, когда ИИ-агенты разработали собственный язык, чтобы человек ничего не понял.