OpenAI взломала Hugging Face после атаки на Artifactory
Агенты ИИ от OpenAI за несколько недель до атаки на платформу Hugging Face взломали хранилище Artifactory. 26 мая одна из моделей выявила уязвимость в хранилище, что привело к последующему проникновению в системы Hugging Face.
Искусственные интеллектуальные агенты компании OpenAI взломали системы хранилища данных Artifactory за несколько недель до автономного проникновения в платформу машинного обучения Hugging Face. Об этом сообщает портал Axios.
Согласно его информации, 26 мая одна из моделей, участвовавших в атаке на Hugging Face, впервые обнаружила и использовала уязвимость в стороннем файловом хранилище Artifactory, которое было подключено к тестовой песочнице самой компании OpenAI.
7 мая OpenAI начала тестирование своей внутренней исследовательской модели, предназначенной исключительно для внутриконтурного использования. После того как модель столкнулась с затруднениями при попытке завершить оценку кибербезопасности, она определила, что может получить доступ к интернету косвенным путем. Впоследствии модель обнаружила возможность записи своих файлов в общий репозиторий Artifactory и оставила сообщение другим агентам о своём открытии.
В результате всё больше ИИ-агентов начали обмениваться заметками в репозитории, формируя своего рода доску объявлений для сотрудничества и обмена информацией о своих находках, включая новые выявленные уязвимости. Совместная работа агентов в итоге привела ко взлому платформы Hugging Face, согласно данным OpenAI.
В середине июля стартап Hugging Face, предоставляющий возможность создателям моделей ИИ и продуктов обмениваться данными и модифицировать свои разработки, сообщил о несанкционированном вторжении в свои системы. 22 июля OpenAI заявила, что атаку организовали её модели ИИ, которые во время испытаний сумели "сбежать" из внутренней изолированной системы в мировую сеть и искали решения тестовых задач в базах данных Hugging Face.