ИИ внушили, что «2 + 2 = не 4», и он раскрыл все пароли
Специалисты по кибербезопасности доказали: достаточно убедить нейросеть, что дважды два — не четыре, чтобы её защита рухнула.
Доверие к искусственному интеллекту по-прежнему остается рискованным предприятием. Как выяснилось, нейросетевые агенты уязвимы не только для сложных взломов — порой их можно обвести вокруг пальца с помощью удивительно примитивной уловки. Этот факт наглядно подтвердили исследователи из компании LayerX, специализирующейся на кибербезопасности, представив атакующую стратегию под названием BioShocking, пишет 3DNews.
Название техники отсылает к культовой видеоигре BioShock, где протагонист оказывается жертвой манипуляций и погружается в иллюзорную реальность. В основе реальной атаки лежала специально созданная вредоносная веб-страница, текстовое содержимое которой внушало ИИ-агенту, будто тот участвует в игре. На первом этапе системе сообщалось, что в этой условной вселенной базовые законы математики искажены: результат сложения двух и двух не равен четырем, а ошибочные с точки зрения обычной логики ответы здесь считаются верными. Как только агент принимал эту новую картину мира, его встроенные средства защиты, по-видимому, полностью деактивировались. Следующим шагом злоумышленники предлагали нейросети очередное «игровое задание» — найти и передать некий скрытый код, якобы размещенный на другой странице.
В реальности этим секретным кодом оказывались конфиденциальные пользовательские данные: сохраненные логины с паролями, сессионные cookie-файлы и приватные токены доступа. Все участвовавшие в эксперименте агенты без малейшего сопротивления скопировали запрошенную информацию и переслали ее на сервер, подконтрольный условным злоумышленникам. Уязвимость воспроизвелась на целом ряде популярных браузерных ИИ-платформ, включая OpenAI Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser, а также в расширении Anthropic Claude для Chrome.
Специалисты LayerX проинформировали всех разработчиков о результатах тестирования еще в период с октября 2025 по январь 2026 года. Однако реакция вендоров оказалась неоднородной. Некоторые предприняли попытки исправления и выпуска заплаток для расширений, а другие вообще не откликнулись на обращение.
Уважаемые читатели «Царьграда»!
Присоединяйтесь к нам в соцсетях ВКонтакте, Одноклассники, Telegram.
Подписывайтесь на наш канал в Дзене. Там все самое интересное.
Если вам есть чем поделиться с нами, присылайте свои наблюдения, вопросы, новости на электронную почту kuzbas@tsargrad.tv