Атака HashJack: ИИ-браузер можно превратить во врага простым знаком

Атака HashJack: ИИ-браузер можно превратить во врага простым знаком

Атака HashJack: ИИ-браузер можно превратить во врага простым знаком

В Cato Networks разработали атаку на ИИ-браузеры, позволяющую манипулировать их выдачей при заходе юзера на легитимный сайт. Достаточно спрятать вредоносную команду в хештеге URL, и умный помощник превратится в орудие зла.

Новый метод непрямой инъекции в промпты, получивший название HashJack, полагается на доверие жертвы и к сайту, с которым она взаимодействует, и к браузерному ИИ-ассистенту.

Примечательно, что атаку в данном случае нельзя обнаружить серверными или сетевыми средствами: хештеги (якорь после знака # в адресе) обрабатываются на стороне клиента.

В рамках HashJack злоумышленник добавляет вредоносный фрагмент к легитимному URL и расшаривает итоговую ссылку через имейл, соцсеть или встраивает в веб-страницу.

Если при переходе по ней визитеру потребуется помощь ИИ, умный браузер включит в ответ результат выполнения скрытых инструкций — к примеру, подсунет рабочую фишинговую ссылку, даст вредный совет, а в агентском режиме может заработать, как бэкдор.

 

Тестирование с использованием различных сценариев проводилось на Copilot for Edge, Gemini for Chrome и Comet. Результаты оказались неутешительными:

 

* Edge выводит диалоговое окно, запрашивая согласие (“gating”) на гейтинг; Chrome зачатую переписывал URL как https://www.google.com/search?q=…, что смягчает, но не устраняет угрозу.

Получив соответствующее уведомление, Google заявила, что исправлять ничего не собирается, так как поведение ИИ-браузера не выходит за рамки допустимого и степень опасности невелика. В Microsoft и Perplexity сочли нужным выпустить фиксы.

Собянин: камеры в Москве не вторгаются в личную жизнь

Мэр Москвы Сергей Собянин не считает, что развитие городских систем видеонаблюдения и цифровизации приводит к вторжению в личную жизнь граждан. По словам градоначальника, сотрудник полиции на перекрёстке тоже видит прохожих, автомобили и происходящие вокруг события. Однако это не означает вмешательства в частную жизнь.

В интервью РБК он заявил, что работа камер по своей сути мало отличается от присутствия полицейского на улице.

«Он вас видит. Ну, он же не вторгается в вашу личную жизнь. Ну, если вы начнете хулиганить, что-то такое вытворять, то... Тогда он подойдет и спросит, что вы делаете, и пресечет эти действия», — пояснил Собянин.

По мнению мэра, аналогичным образом работают и городские системы видеонаблюдения.

«Она есть и есть. Она фоновая. Она никакого отношения к вашей личной жизни не имеет. Поэтому никакого вторжения в личную жизнь там не происходит», — заявил он.

Тема городского видеонаблюдения и цифрового контроля остаётся одной из самых обсуждаемых в последние годы. Москва считается одним из мировых лидеров по количеству камер наблюдения и уровню цифровизации городских сервисов. Камеры используются для обеспечения общественной безопасности, контроля дорожного движения, поиска нарушителей и решения других задач.

При этом критики подобных систем регулярно поднимают вопросы о конфиденциальности данных и границах допустимого наблюдения со стороны государства.

Собянин же дал понять, что рассматривает камеры прежде всего как инструмент обеспечения порядка, а не как средство слежки за законопослушными гражданами.

RSS: Новости на портале Anti-Malware.ru