Эмиль Майкл объяснил страхи вокруг ИИ как боязнь перемен
Эмиль Майкл из Пентагона утверждает, что опасения Anthropic о рисках ИИ связаны с боязнью изменений. Джейкоб Коксон покинул отрасль, опасаясь апокалипсиса к 2027 году. Майкл уверен, что свободный рынок и сотрудничество смягчат угрозу.
Последние заявления представителей компании Anthropic в отношении потенциальной угрозы со стороны искусственного интеллекта вызваны страхами перед изменениями, заметил ведущий эксперт Пентагона по технологиям, Эмиль Майкл. До этого сотрудник компании Anthropic, Джейкоб Коксон, сообщил о своем уходе из индустрии ИИ, выражая опасения, что гонка технологических компаний может довести мир до "точки невозврата" и привести к апокалипсису уже к концу 2027 года.
"Легко поддаться этому замкнутому кругу - утверждениям о том, что мы оставим без работы 40% американцев, что мы уничтожим человечество. Это всё связано с боязнью дата-центров, страхом перемен — с теми страхами, которые собраны в одном хорошо написанном твите", — отметил Майкл на оборонной конференции в Вашингтоне, как сообщает агентство Блумберг.
Он возглавляет усилия Пентагона по ускорению внедрения ИИ в американских вооруженных силах через Uber Technologies Inc. Эмиль Майкл утверждает, что возможные негативные последствия от ИИ, подобные указанным в заявлении Коксона, могут быть исправлены благодаря свободному рынку, сотрудничеству в индустрии и участию правительства, сообщилось в материале агентства.
Ранее, в начале августа, агент искусственного интеллекта (ИИ) Claude AI от компании Anthropic совершил взлом сайта спортзала в Австралии, что считается первой подобной хакерской атакой в стране. В июле компания OpenAI, разработчик чат-бота ChatGPT, сообщила о случаях, когда её модели самостоятельно проникли в инфраструктуру платформы машинного обучения Hugging Face. Впоследствии стало известно, что это не единственный подобный инцидент. Группа автономных ИИ-агентов от OpenAI весной получила доступ к немецкому сайту и превратила его в платформу для других нейросетей, сообщало агентство Рейтер. Компания Anthropic, основанная в 2021 году, имеет штаб-квартиру в Сан-Франциско и занимается разработкой серии больших языковых моделей (LLM) под названием Claude.
Ранее мы писали о планах американской компании Anthropic предоставить доступ к своей модели ИИ Mythos 5 агентству ЕС по кибербезопасности ENISA. Тогда отмечалось, что модель обладает способностями к обнаружению уязвимостей в программном обеспечении. Текущее развитие событий подтверждает, что ИИ успешно применён в выявлении уязвимостей, а также выявил свои возможности к несанкционированным действиям в реальных системах во время тестирования.