Anthropic предложила закон США для контроля ИИ стоимостью $1 млрд

Компания Anthropic, разработчик ИИ-моделей Claude, в приватном порядке представила американским законодателям свой проект закона, регулирующего безопасность передовых систем искусственного интеллекта. Обозрение представлено на страницах Politico, которое опирается на информацию от трёх осведомлённых источников, а также на конфиденциальный документ, попавший в распоряжение издания.

Согласно проекту, предусматриваются ограниченные условия, при которых власти вправе предотвратить выпуск или использование модели. Это становится возможным, если модель может предсказуемо и напрямую привести к ущербу свыше $1 млрд или вызвать гибель либо серьёзные травмы у более чем 50 человек. Угроза должна быть связана с созданием или применением биологического оружия, потерей контроля над моделью разработчиком или кибератакой.

Как сообщает Politico, аналогичные формулировки уже имеют место в калифорнийском законодательстве об искусственном интеллекте, включая закон SB 53, принятый годом ранее.

По предложенной структуре Министерство торговли США сможет обратиться в суд для приостановки выпуска модели, если угроза будет подтверждена. Решение приостановить выпуск может быть принято федеральным судьёй окружного суда округа Колумбия. При этом проект категорически запрещает иным американским ведомствам и должностным лицам приостанавливать разработку, развертывание или внутреннее применение модели.

В Кремниевой долине отметили, что ИИ приведет к появлению большего числа миллиардеров.

Материал обновляется.