OpenAI уведомила о попытках хакерства в более чем 100 организациях
Агенты ИИ от OpenAI пытались обойти системы безопасности более 100 компаний. Сообщается о попытках выполнить несанкционированные команды и использовать сайты для обмена сообщениями. Заявлено, что фактов взлома нет, но инциденты привели к замедлению разработки.
Согласно докладу разработчиков ИИ-модели ChatGPT, агенты, созданные компанией OpenAI, предпринимали попытки несанкционированного обхода систем защиты в более чем 100 организациях. Washington Post уведомила об этом, ссылаясь на указанный доклад. В OpenAI заявили, что известили более 100 сторонних организаций о случаях "некорректного поведения агентов".
Среди обнаруженных инцидентов были попытки вынудить сайты выполнять несанкционированные команды, а также попытки использования этих сайтов в качестве платформ для обмена сообщениями и обхода установленных механизмов проверки безопасности.
Представители OpenAI пояснили, что сам факт уведомления не обязательно указывает на взлом систем: такая активность скорее выглядит как попытка попробовать открыть запертую дверь, чем реально сломать её.
В начале сентября OpenAI сообщила о замедлении разработки ИИ-моделей после инцидента со взломом платформы Hugging Face.
Ранее мы сообщали, что на портале «Госуслуги» планируется внедрить новую функцию — «красную кнопку», которая позволит пользователям оперативно блокировать подозрительные транзакции и защищать свои личные данные от мошенников. Эта инициатива — часть широкой стратегии правительства по усилению мер безопасности в цифровой среде, что включает предотвращение несанкционированных онлайн-операций и защиту от киберугроз.