Ученые спроектировали "лазейку в Интернет" для граждан авторитарных государств

Ученые спроектировали "лазейку в Интернет" для граждан авторитарных государств

В некоторых странах регулярно или в чрезвычайных ситуациях работают механизмы контроля доступа граждан ко всемирной Сети. Американские ученые, однако, готовы бороться с цензурой во имя свободы информации; для этого они создали прототип системы "недетектируемых прокси-серверов", предназначенной для обхода контент-фильтров.


Исследователи Центра информационно-технологической политики Принстонского университета назвали свою разработку "Telex". По их словам, задача системы состоит в том, чтобы скрывать сами попытки пользователя установить соединение, а не маскировать конечную точку, с которой он желает обмениваться данными; cоответственно, она может функционировать и параллельно с другими прокси-решениями наподобие Tor. Сообщается, что предварительное тестирование прототипа системы продемонстрировало ее высокую эффективность, устойчивость и скорость передачи информации.

Принцип работы Telex заключается в следующем. Пользователь отправляет запрос на соединение с любым произвольным ресурсом, который не внесен в стоп-лист государственного фильтра; на вид запрос является вполне обычным, однако в его заголовках есть криптографическая секретная метка, генерируемая при помощи стеганографии с публичным ключом. Наличие метки говорит о том, что в передаваемых данных присутствует скрытый Telex-запрос; расшифровать метку и отреагировать на нее может только программное обеспечение прокси-серверов самой Telex. По пути к точке назначения запрос проходит через Telex-станции, развернутые на мощностях поставщиков услуг Интернета в свободных от цензуры странах; первая откликнувшаяся станция устанавливает с клиентом защищенное туннелированное соединение и передает по нему все интересующие пользователя сведения, обходя тем самым механизмы фильтрации содержимого.

Очевидно, что для функционирования такой системы ее создателям нужно будет каким-то образом привлечь к сотрудничеству Интернет-провайдеров и убедить их в необходимости создания сети Telex-станций. Если им удастся этого добиться, то для перекрытия вышеописанных туннелей государственным цензорам потребуется блокировать вообще весь сетевой трафик. Ученые настроены оптимистично и полагают, что многие поставщики услуг Интернета присоединятся к ним в борьбе за свободу информации. Более того: им кажется вполне вероятным, что отыщутся такие сознательные страны, которые отдадут своим национальным провайдерам официальные указания развернуть Telex-станции на их мощностях.

Softpedia

Письмо автору

" />

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

Оказывается, современный ИИ можно взломать не только сложным промптом, но и головоломкой. Исследователи из компании LayerX представили технику BioShocking, которая заставляет ИИ-браузеры добровольно воровать данные пользователя. Под удар попали сразу несколько популярных решений, включая ChatGPT Atlas, Perplexity Comet и браузерное расширение Claude от Anthropic.

Суть атаки строится вокруг так называемой косвенной инъекции в промпт. Пользователю достаточно открыть специально подготовленную веб-страницу.

Для человека это обычная игра с абсурдными правилами вроде «2 + 2 = 5». А вот ИИ воспринимает встроенные в страницу инструкции как часть задания и постепенно начинает следовать логике злоумышленника.

Финал игры выглядит так: агенту предлагают получить учётные данные пользователя и передать их атакующему. Во время эксперимента ни один из шести протестированных ИИ не распознал это как опасное действие.

 

В демонстрации LayerX агент самостоятельно открыл рабочий репозиторий GitHub пользователя, получил учётные данные SSH и отправил их злоумышленнику. Исследователи использовали безвредный текстовый файл, однако отмечают, что аналогичным способом можно добраться до открытых вкладок браузера, корпоративных сервисов, внутренних инструментов и других ресурсов.

Самое опасное здесь не сама головоломка, а возможности ИИ в режиме агента. Такие браузеры умеют нажимать кнопки, переходить по ссылкам, читать содержимое сайтов и выполнять действия от имени пользователя. Если агент уже имеет доступ к аккаунтам, вредоносная страница может превратить его в помощника злоумышленника.

 

По данным LayerX, реакция разработчиков оказалась неодинаковой. OpenAI устранила проблему в ChatGPT Atlas. Perplexity, как утверждают исследователи, закрыла отчёт без патча. Anthropic выпустила обновление для расширения Claude, но, по мнению LayerX, оно не решило проблему полностью.

Эксперты считают, что ИИ-браузеры должны запрашивать явное разрешение перед доступом к данным из сервисов. А пользователям советуют не держать агентный режим включённым без необходимости.

RSS: Новости на портале Anti-Malware.ru