ИИ-браузеры обманули игрой и заставили сливать логины пользователей

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

Оказывается, современный ИИ можно взломать не только сложным промптом, но и головоломкой. Исследователи из компании LayerX представили технику BioShocking, которая заставляет ИИ-браузеры добровольно воровать данные пользователя. Под удар попали сразу несколько популярных решений, включая ChatGPT Atlas, Perplexity Comet и браузерное расширение Claude от Anthropic.

Суть атаки строится вокруг так называемой косвенной инъекции в промпт. Пользователю достаточно открыть специально подготовленную веб-страницу.

Для человека это обычная игра с абсурдными правилами вроде «2 + 2 = 5». А вот ИИ воспринимает встроенные в страницу инструкции как часть задания и постепенно начинает следовать логике злоумышленника.

Финал игры выглядит так: агенту предлагают получить учётные данные пользователя и передать их атакующему. Во время эксперимента ни один из шести протестированных ИИ не распознал это как опасное действие.

 

В демонстрации LayerX агент самостоятельно открыл рабочий репозиторий GitHub пользователя, получил учётные данные SSH и отправил их злоумышленнику. Исследователи использовали безвредный текстовый файл, однако отмечают, что аналогичным способом можно добраться до открытых вкладок браузера, корпоративных сервисов, внутренних инструментов и других ресурсов.

Самое опасное здесь не сама головоломка, а возможности ИИ в режиме агента. Такие браузеры умеют нажимать кнопки, переходить по ссылкам, читать содержимое сайтов и выполнять действия от имени пользователя. Если агент уже имеет доступ к аккаунтам, вредоносная страница может превратить его в помощника злоумышленника.

 

По данным LayerX, реакция разработчиков оказалась неодинаковой. OpenAI устранила проблему в ChatGPT Atlas. Perplexity, как утверждают исследователи, закрыла отчёт без патча. Anthropic выпустила обновление для расширения Claude, но, по мнению LayerX, оно не решило проблему полностью.

Эксперты считают, что ИИ-браузеры должны запрашивать явное разрешение перед доступом к данным из сервисов. А пользователям советуют не держать агентный режим включённым без необходимости.

Сбер предложил собирать надёжные пароли в Змейке

На портале по киберграмотности «Кибрарий» появилась «Змейка», в которой вместо яблок нужно собирать символы для будущего пароля. Игровой тренажёр от «Сбера» доступен бесплатно и не требует регистрации. Правила простые: пользователь управляет змейкой и подбирает разбросанные по полю буквы, цифры и специальные знаки.

На всё даётся 90 секунд. Затем система проверяет получившуюся комбинацию и сообщает, соответствует ли она критериям надёжного пароля.

Разработчики предлагают использовать собранную строку для защиты учётных записей. Идея в том, что игра поможет получить более сложную и менее предсказуемую комбинацию, чем очередные qwerty, password или имя кота с годом рождения.

По оценкам экспертов, 60% паролей удаётся взломать в течение первого часа. Современные инструменты перебора работают не вслепую: они используют словари, популярные шаблоны и базы уже утёкших комбинаций. Поэтому человеческая оригинальность вроде замены буквы «о» на ноль давно никого не впечатляет, особенно алгоритмы.

Даже хаотичный удар по клавиатуре не всегда даёт настоящую случайность. Для защиты от автоматического подбора специалисты советуют использовать длинные пароли с буквами разных регистров, цифрами и специальными символами.

Впрочем, победа в «Змейке» ещё не делает аккаунт неуязвимым. Один и тот же пароль нельзя ставить на разные сервисы, а хранить десятки уникальных комбинаций удобнее в менеджере паролей. Для важных учётных записей также стоит включить двухфакторную аутентификацию.

Получился генератор паролей для тех, кому обычные генераторы кажутся слишком скучными: сначала полторы минуты гоняешь змейку, потом защищаешь добычей аккаунт. Главное — не записывать результат на стикере у монитора.

RSS: Новости на портале Anti-Malware.ru