Технологические гиганты создали комитеты для контроля ИИ-моделей
Руководители Google, Meta, Nvidia и других компаний с президентом США Дональдом Трампом договорились создать независимые комитеты для контроля за безопасностью моделей ИИ. Соглашение предполагает внедрение четырёх уровней контроля и аудит процессов.
Руководители ведущих технологических компаний Google, Anthropic, Meta (признана в России экстремистской организацией и запрещена), OpenAI, xAI и Nvidia договорились о создании независимых комитетов при советах директоров. Эти комитеты будут контролировать вопросы безопасности передовых моделей искусственного интеллекта. Документ, подписанный главами данных организаций и президентом США Дональдом Трампом, был опубликован в социальной сети Truth Social.
«Каждая компания, обучающая и развертывающая передовые модели, должна иметь надежные внутренние процессы и меры контроля. Это необходимо для обеспечения того, чтобы их технологии вели себя должным образом, а любые проблемы оперативно выявлялись и устранялись».
Компании взяли на себя обязательства по внедрению четырёх уровней контроля и аудита:
- Создание внутренних механизмов для мониторинга безопасности моделей в сферах, таких как кибербезопасность, биологические и химические угрозы, а также обеспечение, чтобы данные модели не взламывали технические системы.
- Полномочное внутреннее командование для постоянного наблюдения за работой механизмов контроля, мониторинга и устранения проблем.
- Привлечение внешних независимых аудиторов или оценщиков для проверки эффективности систем контроля и обнаружения.
- Создание независимых комитетов при советах директоров для надзора за командами и получения отчётов от внутренних и внешних проверок.
Подписавшие соглашение стороны также договорились о регулярных встречах для разработки новых стандартов и обмена передовыми практиками, направленными на повышение безопасности технологических систем. В документе содержится упоминание, что со временем может потребоваться юридическое закрепление этих мер, однако компании обязались внедрить их без зависимости от обязательных требований государства.
Материал будет дополнен.