Axios: США создают новые ИИ-системы против апокалипсиса 2027 года

Американские лидеры в области разработки искусственного интеллекта активно трудятся над созданием системы экстренной защиты от неконтролируемых алгоритмов с помощью других ИИ-инструментов, сообщает портал Axios. Вопросы безопасности в разработке ИИ вновь привлекли внимание после заявления Джейкоба Коксона, исследователя из компании Anthropic, который сообщил о своём уходе из индустрии, аргументируя это тем, что стремление технологических корпораций приближает мир к "точке невозврата". Это, по его словам, может вызвать апокалиптический сценарий к концу 2027 года.

"Компании могут отключать отдельные серверы, которые обеспечивают работу ИИ, однако действительно мощные системы функционируют на множестве компьютеров и платформ. Универсального выключателя, который можно просто выключить, не существует. Именно по этой причине компании проводят эксперименты с многоуровневыми системами защиты, способными выявлять подозрительные действия, останавливать агентов и лишать неконтролируемых агентов ресурсов, которые нужны им для продолжения работы", — сообщает портал.

Руководитель по технологиям Пентагона, Эмиль Майкл, ранее высказал мнение, что страх перед искусственным интеллектом, способным уничтожить человечество, связан с боязнью перед изменениями. Президент США Дональд Трамп также отметил, что восстание машин вследствие развития искусственного интеллекта маловероятно, и в случае угрозы всегда может быть найдено "маленькое приспособление".

Ранее мы писали о тщательном подходе сенатора Джоша Хоули к вопросам, связанным с использованием искусственного интеллекта. Особое внимание в своё время он уделил расследованиям в сфере технологий, в том числе при взаимодействии с компаниями, которые могут представлять угрозу на уровне данных и безопасности. Его активная позиция вновь проявилась в расследовании против OpenAI после инцидента со взломом платформы Hugging Face, где ставится под сомнение безопасность использования ИИ и прозрачность действий компаний.