Атака HashJack: ИИ-браузер можно превратить во врага простым знаком

Атака HashJack: ИИ-браузер можно превратить во врага простым знаком

Атака HashJack: ИИ-браузер можно превратить во врага простым знаком

В Cato Networks разработали атаку на ИИ-браузеры, позволяющую манипулировать их выдачей при заходе юзера на легитимный сайт. Достаточно спрятать вредоносную команду в хештеге URL, и умный помощник превратится в орудие зла.

Новый метод непрямой инъекции в промпты, получивший название HashJack, полагается на доверие жертвы и к сайту, с которым она взаимодействует, и к браузерному ИИ-ассистенту.

Примечательно, что атаку в данном случае нельзя обнаружить серверными или сетевыми средствами: хештеги (якорь после знака # в адресе) обрабатываются на стороне клиента.

В рамках HashJack злоумышленник добавляет вредоносный фрагмент к легитимному URL и расшаривает итоговую ссылку через имейл, соцсеть или встраивает в веб-страницу.

Если при переходе по ней визитеру потребуется помощь ИИ, умный браузер включит в ответ результат выполнения скрытых инструкций — к примеру, подсунет рабочую фишинговую ссылку, даст вредный совет, а в агентском режиме может заработать, как бэкдор.

 

Тестирование с использованием различных сценариев проводилось на Copilot for Edge, Gemini for Chrome и Comet. Результаты оказались неутешительными:

 

* Edge выводит диалоговое окно, запрашивая согласие (“gating”) на гейтинг; Chrome зачатую переписывал URL как https://www.google.com/search?q=…, что смягчает, но не устраняет угрозу.

Получив соответствующее уведомление, Google заявила, что исправлять ничего не собирается, так как поведение ИИ-браузера не выходит за рамки допустимого и степень опасности невелика. В Microsoft и Perplexity сочли нужным выпустить фиксы.

ФСБ России сертифицировала Рутокен Чип 3127 с ключами на пять лет

Компания «Актив» получила сертификат ФСБ России на встраиваемую микросхему Рутокен Чип 3127 по классам КС1 и КС2. После дополнительных исследований срок действия закрытых криптографических ключей в ней увеличили до пяти лет.

Чип входит в линейку Рутокен ЭЦП 3.0 3127 и предназначен для устройств, которым нужна долговременная криптографическая защита: серверов, банкоматов, рабочих станций, планшетов, биометрических систем, промышленного оборудования и IoT.

Иными словами, для техники, которая должна сама понимать, кому доверять, пока человек занят чем-нибудь другим.

Микросхема хранит ключи в неизвлекаемом виде, аутентифицирует пользователей и устройства, проверяет целостность компонентов и помогает выстраивать доверенную загрузку. На каждом этапе она может контролировать исполняемый код, чтобы в систему незаметно не подсунули что-нибудь лишнее.

Рутокен Чип 3127 также поддерживает шифрование данных, выработку производных и сеансовых ключей, доверенное обновление ПО и защищённые TLS- и VPN-соединения. Для обмена данными по открытым каналам предусмотрен протокол CRISP, соответствующий ГОСТ Р 71252-2024.

Отдельно разработчики поработали над защитой самого чипа. ОС Рутокен следит за отклонениями напряжения и состоянием защитного слоя над микросхемой. При попытке физического вмешательства работа блокируется. Механизм фиктивных ветвлений выполняет ложные команды, маскируя энергопотребление и время операций от атак по побочным каналам. Чип, получается, умеет не только хранить секреты, но и довольно убедительно путать следы.

По словам компании, Рутокен Чип 3127 уже прошёл пилотные внедрения. Один из проектов — интеграция в биометрические системы контроля доступа OVISION. Завершение сертификации должно открыть путь к серийному применению микросхемы в устройствах для критически важной инфраструктуры.

В итоге «Актив» предлагает встраивать защиту прямо в оборудование, а не прикручивать её после выпуска. Для умных городов, промышленности и IoT это особенно актуально: переделывать небезопасное железо задним числом обычно долго, дорого и уже немного поздно.

RSS: Новости на портале Anti-Malware.ru