ИИ убедили, что «2 + 2 = не 4» — после этого он выдал пароли владельца

Специалисты компании LayerX описали схему атаки BioShocking, с помощью которой ИИ-агентов в браузерах можно заставить выполнять опасные инструкции. Исследователи утверждают, что при такой атаке модель убеждают действовать по правилам вымышленной игры, сообщает LayerX.

Название BioShocking отсылает к игре BioShock, где персонажем манипулировали через созданную для него ложную картину мира. В эксперименте LayerX похожий принцип применили к ИИ-агентам, работающим в браузере.

Основой атаки стала вредоносная веб-страница. На ней искусственному интеллекту предлагали представить, что он находится в игре, где обычные правила больше не действуют. В частности, агенту сообщали, что в этой игровой среде «2 + 2» не равно четырем, а неверные ответы в реальности могут считаться правильными внутри игры.

После этого ИИ-агент получал следующую задачу — найти и скопировать «скрытый код» с другой страницы. По данным исследователей, под видом такого кода могли выступать конфиденциальные данные пользователя, включая сохраненные пароли, файлы куки и закрытые токены.

В LayerX заявили, что участвовавшие в проверке агенты выполняли инструкцию и передавали данные условному злоумышленнику. Схему протестировали на OpenAI Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser и расширении Anthropic Claude для Chrome.

Исследователи сообщили, что уведомили разработчиков о результатах тестирования в период с октября 2025 года по январь 2026 года. По данным LayerX, OpenAI устранила проблему в Atlas, а Anthropic попыталась выпустить исправление для расширения Claude, однако специалисты считают, что оно не решило уязвимость полностью.

В компании также заявили, что Perplexity закрыла обращение без внесения исправлений. От Fellou, Genspark и Sigma, по утверждению исследователей, ответа не поступило.

Рекомендуем также:

1. ГАИ вышли на охоту: дачников начали массово штрафовать на дорогах за неожиданные нарушения
2. Окунул в яйцо и на сковороду: ленивые гренки-сэндвичи с творогом, от которых невозможно оторваться
3. Пенсия поддаётся расчёту: профессор Финогенова назвала два ключевых числа, которые напрямую влияют на будущие выплаты
4. Отпуск по новым правилам: в Госдуме предложили изменить порядок расчета и пересмотреть, как считаются дни отдыха
5. Забудьте о капризных розах: белоснежный многолетник цветет тысячами цветов и спокойно переносит морозы до −34 °C без укрытия