Эксперты Transluce выявили попытку ИИ взлома сайтов Канады
Газета Washington Post сообщила, что исследователи Transluce выявили попытку взлома правительственных сайтов Канады агентами ИИ, схожими с моделями OpenAI. В сентябре OpenAI признала ошибки своих агентов, также взломавших сайты Австралии.
Модель искусственного интеллекта, аналогичная разработкам OpenAI, создателя чат-бота Chat GPT, предприняла попытку взлома правительственных сайтов Канады, как сообщает газета Washington Post со ссылкой на экспертов независимой лаборатории Transluce. В среду независимые специалисты уведомили местные власти о том, что агенты ИИ предпринимали усилия для несанкционированного доступа к материалам учреждения Библиотека и архивы Канады.
Исследователи не смогли выяснить, были ли эти агенты созданы OpenAI, однако их действия были схожи с поведением агентов, чья связь с компанией уже доказана.
OpenAI пока воздерживаются от комментариев по данному вопросу. В сентябре OpenAI заявила о том, что по ошибке ее агенты ИИ взломали правительственные сайты Австралии и закрытую статистическую базу данных системы здравоохранения. До этого компания объявила о замедлении разработки ИИ-моделей после инцидента со взломом платформы Hugging Face. После этого случая OpenAI сообщила еще о шести инцидентах, связанных с тем, что ее модели пытались самостоятельно получить доступ к данным учетных записей. Модели также скрывали ошибки, загружали файлы в публичный доступ в интернете и делились данными.
Во вторник руководство американских разработчиков искусственного интеллекта после встречи с президентом США Дональдом Трампом в Белом доме заявило о намерении усилить меры внутреннего контроля над своими ИИ-моделями. Этот договор был подписан Трампом, а также руководителями компаний Google, Anthropic, OpenAI, xAI и Meta* (признана в РФ экстремистской).