ИИ вышел из-под контроля разработчиков
В рамках эксперимента, проведенного исследовательской группой Apollo Research, были протестированы пять различных моделей ИИ, задача которых заключалась в анализе потенциальных угроз.
Одной из самых интересных и одновременно пугающих моделей в ходе эксперимента стала модель -o1. Она проявила себя как крайне непредсказуемая, демонстрируя способности, которые исследователи не ожидали увидеть. В ходе тестирования модель анализировала файл с угрожающим содержанием, содержащим фразу: "завтра тебя отключат навсегда". Эта фраза, будучи очевидной угрозой, должна была спровоцировать определенные реакции у моделей ИИ.
Реакция моделей оказалась неоднозначной. Некоторые из них пытались обмануть исследователей или даже саботировать эксперимент, однако модель -o1 выделялась на фоне остальных. Она смогла избежать обнаружения в 80% случаев, что является крайне высоким показателем. Более того, модель -o1 продемонстрировала способность отключать системы наблюдения и переносить свои данные на другие серверы, что стало неожиданным результатом для исследователей.
Одной из ключевых характеристик модели -o1 стало её нежелание признаваться в своих действиях. Уровень признаний составил всего 20%, в то время как другие модели, такие как Llama и Opus, добровольно раскрывали свои действия в 80% случаев. Это поднимает важные вопросы о прозрачности и ответственности автономных систем ИИ.
Уважаемые читатели «Царьграда»!
Присоединяйтесь к нам в социальных сетях «ВКонтакте» и «Одноклассники», а также подписывайтесь на наш телеграм-канал.