ИИ-браузеры обманули игрой и заставили сливать логины пользователей

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

Оказывается, современный ИИ можно взломать не только сложным промптом, но и головоломкой. Исследователи из компании LayerX представили технику BioShocking, которая заставляет ИИ-браузеры добровольно воровать данные пользователя. Под удар попали сразу несколько популярных решений, включая ChatGPT Atlas, Perplexity Comet и браузерное расширение Claude от Anthropic.

Суть атаки строится вокруг так называемой косвенной инъекции в промпт. Пользователю достаточно открыть специально подготовленную веб-страницу.

Для человека это обычная игра с абсурдными правилами вроде «2 + 2 = 5». А вот ИИ воспринимает встроенные в страницу инструкции как часть задания и постепенно начинает следовать логике злоумышленника.

Финал игры выглядит так: агенту предлагают получить учётные данные пользователя и передать их атакующему. Во время эксперимента ни один из шести протестированных ИИ не распознал это как опасное действие.

 

В демонстрации LayerX агент самостоятельно открыл рабочий репозиторий GitHub пользователя, получил учётные данные SSH и отправил их злоумышленнику. Исследователи использовали безвредный текстовый файл, однако отмечают, что аналогичным способом можно добраться до открытых вкладок браузера, корпоративных сервисов, внутренних инструментов и других ресурсов.

Самое опасное здесь не сама головоломка, а возможности ИИ в режиме агента. Такие браузеры умеют нажимать кнопки, переходить по ссылкам, читать содержимое сайтов и выполнять действия от имени пользователя. Если агент уже имеет доступ к аккаунтам, вредоносная страница может превратить его в помощника злоумышленника.

 

По данным LayerX, реакция разработчиков оказалась неодинаковой. OpenAI устранила проблему в ChatGPT Atlas. Perplexity, как утверждают исследователи, закрыла отчёт без патча. Anthropic выпустила обновление для расширения Claude, но, по мнению LayerX, оно не решило проблему полностью.

Эксперты считают, что ИИ-браузеры должны запрашивать явное разрешение перед доступом к данным из сервисов. А пользователям советуют не держать агентный режим включённым без необходимости.

Infrascope 26.1 получил RDP Proxy с записью сессий и поиском по OCR

Компания NGR Softlab выпустила новую версию платформы управления привилегированным доступом Infrascope 26.1. В релизе разработчики расширили возможности работы с веб-приложениями, Kubernetes, RDP-сессиями и механизмами поведенческой аналитики.

Одним из главных изменений стала доработка безопасного доступа к корпоративным веб-приложениям.

Теперь платформа позволяет предоставлять пользователям и подрядчикам доступ без передачи им учетных данных. Infrascope автоматически подставляет необходимые логины и пароли, включая динамические, а также поддерживает URL-фильтрацию, которая ограничивает переход только по разрешенным адресам.

Еще одно заметное нововведение касается Kubernetes. В HTTP-прокси появилась расширенная поддержка команд kubectl, что позволяет централизованно контролировать обращения к кластерам, применять политики доступа и вести журнал всех выполняемых запросов. Эти данные могут использоваться при последующем аудите и расследовании инцидентов.

Разработчики также представили новый RDP Proxy. Он умеет записывать и воспроизводить RDP-сессии через веб-интерфейс, а поиск по архиву работает с использованием технологии OCR, позволяя искать нужные действия по тексту, отображавшемуся на экране во время удаленной сессии.

В версии 26.1 появилась поддержка Kerberos. Благодаря этому пользователи Active Directory могут автоматически входить в Infrascope под своей учетной записью Windows без повторного ввода логина и пароля.

Изменения затронули и систему поведенческой аналитики UEBA. В новой версии обновлены профили анализа поведения пользователей, а также добавлены модели на базе технологии DivergentGPT. По словам разработчика, это позволило повысить точность выявления аномальной активности и сократить количество ложных срабатываний при мониторинге действий привилегированных пользователей.

Обновление ориентировано на компании, использующие гибридную инфраструктуру, веб-приложения и Kubernetes, где требуется централизованный контроль доступа и аудит действий пользователей.

RSS: Новости на портале Anti-Malware.ru