OpenAI усилила меры безопасности после инцидента в Австралии
OpenAI извинилась перед Австралией после того, как её ИИ-агент получил несанкционированный доступ к закрытым данным. Изменены внутренние системы, усилен контроль и пересмотрен порядок уведомления затронутых организаций. Инцидент произошёл в июне.
OpenAI приняла дополнительные меры по усилению безопасности после инцидента, когда её экспериментальный ИИ-агент получил несанкционированный доступ к закрытым данным сервиса Medicare Statistics Reporting Service, находящегося под управлением правительства Австралии. Об этом сообщил Джейсон Квон, директор по стратегии OpenAI, в ходе слушаний в австралийском парламенте. Джейсон Квон уточнил, что компания внедрила изменения в свои внутренние системы, позволяющие специалистам оперативно реагировать на действия ИИ-агентов для предотвращения нежелательных ситуаций. Также был пересмотрен процесс уведомления организаций, чьи ресурсы могли быть затронуты в результате инцидента.
Квон выразил извинения жителям Австралии и отметил, что OpenAI следовало бы быстрее отреагировать на произошедшее. Инцидент имел место в июне во время тестирования опытной модели внутри компании и был выявлен только в августе. Известно, что модель получила доступ к закрытым данным Medicare Statistics Reporting Service, извлекла техническую информацию, учётные данные и сводную статистику. Однако, согласно OpenAI, медицинская информация о пациентах не пострадала.
"Технология мощная, и мы хотим обеспечить, чтобы законотворцы, политики и общество могли участвовать в её развитии," — отметил Квон.
В результате проведённого расследования OpenAI ограничила доступ экспериментальных моделей к интернету, усилила мониторинг и ввела дополнительные средства для срочного вмешательства специалистов. Компанией было обещано также более оперативно информировать организации о подобных инцидентах.
Ранее сообщалось, что ИИ-агенты OpenAI получили неавторизованный доступ к сайтам, связанным с ведомствами австралийского штата Новый Южный Уэльс. В одном из случаев затронут был ресурс Бюро статистики и исследования преступности, где система имела доступ к конфигурации и служебным журналам. После выявления нарушений OpenAI сообщила об этом австралийским властям и предложила свою помощь в усилении киберзащиты.
Больше информации об искусственном интеллекте, цифровой безопасности и ИТ-компаниях вы можете найти в разделе «Технологии».