ИИ-браузеры обманули игрой и заставили сливать логины пользователей

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

Оказывается, современный ИИ можно взломать не только сложным промптом, но и головоломкой. Исследователи из компании LayerX представили технику BioShocking, которая заставляет ИИ-браузеры добровольно воровать данные пользователя. Под удар попали сразу несколько популярных решений, включая ChatGPT Atlas, Perplexity Comet и браузерное расширение Claude от Anthropic.

Суть атаки строится вокруг так называемой косвенной инъекции в промпт. Пользователю достаточно открыть специально подготовленную веб-страницу.

Для человека это обычная игра с абсурдными правилами вроде «2 + 2 = 5». А вот ИИ воспринимает встроенные в страницу инструкции как часть задания и постепенно начинает следовать логике злоумышленника.

Финал игры выглядит так: агенту предлагают получить учётные данные пользователя и передать их атакующему. Во время эксперимента ни один из шести протестированных ИИ не распознал это как опасное действие.

 

В демонстрации LayerX агент самостоятельно открыл рабочий репозиторий GitHub пользователя, получил учётные данные SSH и отправил их злоумышленнику. Исследователи использовали безвредный текстовый файл, однако отмечают, что аналогичным способом можно добраться до открытых вкладок браузера, корпоративных сервисов, внутренних инструментов и других ресурсов.

Самое опасное здесь не сама головоломка, а возможности ИИ в режиме агента. Такие браузеры умеют нажимать кнопки, переходить по ссылкам, читать содержимое сайтов и выполнять действия от имени пользователя. Если агент уже имеет доступ к аккаунтам, вредоносная страница может превратить его в помощника злоумышленника.

 

По данным LayerX, реакция разработчиков оказалась неодинаковой. OpenAI устранила проблему в ChatGPT Atlas. Perplexity, как утверждают исследователи, закрыла отчёт без патча. Anthropic выпустила обновление для расширения Claude, но, по мнению LayerX, оно не решило проблему полностью.

Эксперты считают, что ИИ-браузеры должны запрашивать явное разрешение перед доступом к данным из сервисов. А пользователям советуют не держать агентный режим включённым без необходимости.

Облако MULTIFACTOR прошло аттестацию ФСТЭК России

Облачная часть системы двухфакторной аутентификации и контроля доступа MULTIFACTOR получила аттестат соответствия требованиям ФСТЭК России. Теперь разработчик может официально сказать: защищён не только софт внутри периметра, но и облако — бумаги на месте.

Система соответствует требованиям класса защищённости К1 и уровня защищённости персональных данных УЗ1, а также приказам ФСТЭК № 17 и № 21.

Это позволяет использовать MULTIFACTOR в государственных организациях и других инфраструктурах с высокими требованиями к информационной безопасности.

Решение работает по гибридной схеме. Аттестованная облачная часть включает сертифицированную версию облака, а клиентская — адаптеры и мобильное приложение из сертифицированного состава продукта. Вся конструкция соответствует четвёртому уровню доверия.

По словам технического директора МУЛЬТИФАКТОР Валерия Аблекова, аттестация подтверждает зрелость архитектуры продукта и закрывает весь контур: инфраструктуру заказчика и облачную площадку, размещённую в ЦОДах.

Ранее компания получила лицензию ФСТЭК на разработку и производство средств защиты конфиденциальной информации, а сама система MULTIFACTOR прошла сертификацию регулятора. Разработчик планирует обновлять аттестованную облачную часть вместе с сертифицированной версией продукта.

MULTIFACTOR предназначена для защиты удалённого доступа по RDP, VPN, VDI, SSH и другим протоколам. Решение включено в реестр российского ПО под № 7046. По данным компании, в 2025 году им пользовались более 700 тысяч человек.

В общем, облако больше не слабое звено гибридной схемы: теперь и у него есть официальный аттестат безопасности.

RSS: Новости на портале Anti-Malware.ru