ИИ-браузеры обманули игрой и заставили сливать логины пользователей

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

Оказывается, современный ИИ можно взломать не только сложным промптом, но и головоломкой. Исследователи из компании LayerX представили технику BioShocking, которая заставляет ИИ-браузеры добровольно воровать данные пользователя. Под удар попали сразу несколько популярных решений, включая ChatGPT Atlas, Perplexity Comet и браузерное расширение Claude от Anthropic.

Суть атаки строится вокруг так называемой косвенной инъекции в промпт. Пользователю достаточно открыть специально подготовленную веб-страницу.

Для человека это обычная игра с абсурдными правилами вроде «2 + 2 = 5». А вот ИИ воспринимает встроенные в страницу инструкции как часть задания и постепенно начинает следовать логике злоумышленника.

Финал игры выглядит так: агенту предлагают получить учётные данные пользователя и передать их атакующему. Во время эксперимента ни один из шести протестированных ИИ не распознал это как опасное действие.

 

В демонстрации LayerX агент самостоятельно открыл рабочий репозиторий GitHub пользователя, получил учётные данные SSH и отправил их злоумышленнику. Исследователи использовали безвредный текстовый файл, однако отмечают, что аналогичным способом можно добраться до открытых вкладок браузера, корпоративных сервисов, внутренних инструментов и других ресурсов.

Самое опасное здесь не сама головоломка, а возможности ИИ в режиме агента. Такие браузеры умеют нажимать кнопки, переходить по ссылкам, читать содержимое сайтов и выполнять действия от имени пользователя. Если агент уже имеет доступ к аккаунтам, вредоносная страница может превратить его в помощника злоумышленника.

 

По данным LayerX, реакция разработчиков оказалась неодинаковой. OpenAI устранила проблему в ChatGPT Atlas. Perplexity, как утверждают исследователи, закрыла отчёт без патча. Anthropic выпустила обновление для расширения Claude, но, по мнению LayerX, оно не решило проблему полностью.

Эксперты считают, что ИИ-браузеры должны запрашивать явное разрешение перед доступом к данным из сервисов. А пользователям советуют не держать агентный режим включённым без необходимости.

47% россиян не готовы платить за зарубежный интернет, 28% уйдут в VPN

Идея сделать международный интернет платным не вызвала у россиян никакого энтузиазма. По данным исследования MAR CONSULT, 47% пользователей заявили, что вообще не готовы платить за доступ к зарубежным сайтам и сервисам. Еще 28% признались, что в таком случае будут искать способы обхода ограничений — через VPN, прокси и другие инструменты.

Зарубежные сервисы по-прежнему занимают заметную часть интернет-жизни россиян.

У четверти опрошенных они составляют не менее половины всего потребляемого трафика, а 4% пользуются практически исключительно иностранными ресурсами.

Самыми востребованными остаются зарубежные видеохостинги — YouTube, Vimeo и другие используют 45% респондентов. Среди молодежи от 18 до 24 лет этот показатель достигает 76%. Далее идут зарубежные мессенджеры (30%), облачные сервисы и почта (25%), социальные сети (20%) и ИИ-сервисы вроде ChatGPT, Gemini и Midjourney (20%).

К самой идее оплаты международного трафика большинство относится резко отрицательно. 59% выступают против такой инициативы, а столько же считают ее несправедливой. Поддерживают нововведение лишь 8% участников исследования.

Если плата все же появится, вариантов поведения у пользователей немного. Помимо тех, кто собирается искать обходные пути, 15% готовы полностью отказаться от зарубежных сервисов, 10% обещают перейти на российские аналоги, 8% планируют просто сократить использование иностранного контента. И лишь 4% заявили, что готовы платить любую установленную сумму.

Готовность платить тоже оказалась весьма скромной. Только 28% потенциально согласны на дополнительные расходы, причем половина из них — не более 100 рублей в месяц.

Генеральный директор MAR CONSULT Дмитрий Шиманов считает, что подобная мера скорее подтолкнет пользователей к нелегальным способам доступа, чем поможет развитию российских цифровых сервисов. По его мнению, рынок VPN и других инструментов обхода ограничений в таком случае получит новый импульс для роста, а идея импортозамещения в глазах пользователей станет выглядеть еще менее убедительной.

RSS: Новости на портале Anti-Malware.ru