Разыскивается уязвимость. Вознаграждение - три тысячи долларов

Разыскивается уязвимость. Вознаграждение - три тысячи долларов

Любопытная информация появилась вчера в блоге Erictric. Согласно новостному сообщению, некий Алекс Миллер был награжден премией от Mozilla за активный и успешный поиск уязвимостей в обозревателе Firefox; сумма премии составила 3 тыс. долларов. Наиболее интересным фактом является, однако, не размер награды и даже не сама выявленная ошибка, а возраст лауреата.

Молодому исследователю из Сан-Хосе всего 12 лет, однако он, судя по всему, уже успел осознать важность борьбы с уязвимостями. В блог-записи говорится, что в течение десяти дней он последовательно изучал исходные коды Firefox и набрел-таки на потенциальную проблему безопасности, атака на которую может привести к переполнению буфера и повреждению памяти. С учетом того, что в общей сложности он провел за работой 15 часов, нетрудно рассчитать: Mozilla оплатила его труд по довольно высокой ставке в 200 долларов за час.

Ранее компания обещала "охотникам за уязвимостями" премии размером до 500 долларов, однако некоторое время назад, по словам ведущего менеджера программного направления Mozilla Брэндона Стерна, сумму призовых выплат удалось значительно увеличить - "с учетом последних изменений на рынке в частности и во всей экономике в целом".

Родители лауреата рассказали местной газете, что они никогда не ставили перед сыном некую "задачу" - например, по изучению книг технического характера в домашней библиотеке; он всего достиг вполне самостоятельно, по воле собственного интереса. Судя по результатам, сомневаться в природной одаренности юного специалиста действительно не приходится.

С полной версией статьи можно ознакомиться в первоисточнике.

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

Оказывается, современный ИИ можно взломать не только сложным промптом, но и головоломкой. Исследователи из компании LayerX представили технику BioShocking, которая заставляет ИИ-браузеры добровольно воровать данные пользователя. Под удар попали сразу несколько популярных решений, включая ChatGPT Atlas, Perplexity Comet и браузерное расширение Claude от Anthropic.

Суть атаки строится вокруг так называемой косвенной инъекции в промпт. Пользователю достаточно открыть специально подготовленную веб-страницу.

Для человека это обычная игра с абсурдными правилами вроде «2 + 2 = 5». А вот ИИ воспринимает встроенные в страницу инструкции как часть задания и постепенно начинает следовать логике злоумышленника.

Финал игры выглядит так: агенту предлагают получить учётные данные пользователя и передать их атакующему. Во время эксперимента ни один из шести протестированных ИИ не распознал это как опасное действие.

 

В демонстрации LayerX агент самостоятельно открыл рабочий репозиторий GitHub пользователя, получил учётные данные SSH и отправил их злоумышленнику. Исследователи использовали безвредный текстовый файл, однако отмечают, что аналогичным способом можно добраться до открытых вкладок браузера, корпоративных сервисов, внутренних инструментов и других ресурсов.

Самое опасное здесь не сама головоломка, а возможности ИИ в режиме агента. Такие браузеры умеют нажимать кнопки, переходить по ссылкам, читать содержимое сайтов и выполнять действия от имени пользователя. Если агент уже имеет доступ к аккаунтам, вредоносная страница может превратить его в помощника злоумышленника.

 

По данным LayerX, реакция разработчиков оказалась неодинаковой. OpenAI устранила проблему в ChatGPT Atlas. Perplexity, как утверждают исследователи, закрыла отчёт без патча. Anthropic выпустила обновление для расширения Claude, но, по мнению LayerX, оно не решило проблему полностью.

Эксперты считают, что ИИ-браузеры должны запрашивать явное разрешение перед доступом к данным из сервисов. А пользователям советуют не держать агентный режим включённым без необходимости.

RSS: Новости на портале Anti-Malware.ru