Сайт новозеландского МВД вышел из строя

Сайт новозеландского МВД вышел из строя

В конце минувшей недели нормальное функционирование официального сетевого представительства министерства неожиданно было нарушено. На данный момент работу основного ресурса уже восстановили - равно как и привели в порядок некоторые другие связанные с ним сайты, которые тоже пострадали от инцидента. Расследование проблемы еще толком и не начиналось, но  отдельные пользователи уже строят предположения: а не заходили ли "в гости" к министерству Интернет-анонимы?


Вообще говоря, Anonymous действительно грозили МВД Новой Зеландии DDoS-атаками. В феврале хакерская группировка опубликовала видеоматериал, в котором ее представители выражали свое недовольство решением местных властей ввести в действие масштабную государственную систему Интернет-фильтрации. Помимо прочего, "хактивисты" обещали устроить скоординированное нападение на сайт МВД 28 марта (т.е. сегодня); похожие угрозы звучали и в адрес новозеландского правительства в целом. То ли анонимы немного ошиблись с днем начала атаки, то ли они вовсе не имеют отношения к произошедшему инциденту.

Представители министерства недвусмысленно высказываются в пользу второй версии и последовательно опровергают любые предположения относительно участия Anonymous в этих событиях. Хотя в ведомстве называют отказ сайта "очень необычным", там же уверяют, что "угрозы и риски для Интернет-ресурсов существуют постоянно, и у нас нет причин полагать, что проблема связана с какой-то конкретной угрозой; возможно, за ней вообще не стоят никакие враждебные намерения".

Впрочем, сотрудники МВД сочли необходимым прокомментировать "претензии" анонимов к фильтру, о котором говорилось выше; в частности, они заявили, что решение о его создании является верным и обоснованным, а вопрос его применения находится в компетенции поставщиков услуг Интернета - т.е. использование данного механизма является сугубо добровольным делом, и никто не будет никого принуждать его задействовать. Кроме того, по словам чиновников, система фильтрации призвана служить исключительно благим целям - бороться с распространением т.н. "детской порнографии".

The Register

Письмо автору

" />

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

Оказывается, современный ИИ можно взломать не только сложным промптом, но и головоломкой. Исследователи из компании LayerX представили технику BioShocking, которая заставляет ИИ-браузеры добровольно воровать данные пользователя. Под удар попали сразу несколько популярных решений, включая ChatGPT Atlas, Perplexity Comet и браузерное расширение Claude от Anthropic.

Суть атаки строится вокруг так называемой косвенной инъекции в промпт. Пользователю достаточно открыть специально подготовленную веб-страницу.

Для человека это обычная игра с абсурдными правилами вроде «2 + 2 = 5». А вот ИИ воспринимает встроенные в страницу инструкции как часть задания и постепенно начинает следовать логике злоумышленника.

Финал игры выглядит так: агенту предлагают получить учётные данные пользователя и передать их атакующему. Во время эксперимента ни один из шести протестированных ИИ не распознал это как опасное действие.

 

В демонстрации LayerX агент самостоятельно открыл рабочий репозиторий GitHub пользователя, получил учётные данные SSH и отправил их злоумышленнику. Исследователи использовали безвредный текстовый файл, однако отмечают, что аналогичным способом можно добраться до открытых вкладок браузера, корпоративных сервисов, внутренних инструментов и других ресурсов.

Самое опасное здесь не сама головоломка, а возможности ИИ в режиме агента. Такие браузеры умеют нажимать кнопки, переходить по ссылкам, читать содержимое сайтов и выполнять действия от имени пользователя. Если агент уже имеет доступ к аккаунтам, вредоносная страница может превратить его в помощника злоумышленника.

 

По данным LayerX, реакция разработчиков оказалась неодинаковой. OpenAI устранила проблему в ChatGPT Atlas. Perplexity, как утверждают исследователи, закрыла отчёт без патча. Anthropic выпустила обновление для расширения Claude, но, по мнению LayerX, оно не решило проблему полностью.

Эксперты считают, что ИИ-браузеры должны запрашивать явное разрешение перед доступом к данным из сервисов. А пользователям советуют не держать агентный режим включённым без необходимости.

RSS: Новости на портале Anti-Malware.ru