"Лаборатория Касперского" выпустила программное обеспечение для поиска злонамеренных ссылок в Twitter

"Лаборатория Касперского" выпустила программное обеспечение для поиска злонамеренных ссылок в Twitter

"Лаборатория Касперского" сегодня представила новое программное обеспечение Krab Krawler, анализирующее многочисленные сообщения в сети микроблоггинга Twitter и проверяет их на наличие вредоносных ссылок. При нахождении подобной ссылки, переход по которой может причинить вред компьютеру пользователя, программа блокирует переход и предупреждает пользователя.

По словам Костина Раиду, старшего вирусного аналитика "Лаборатории Касперского", Krab Krawler способен сканировать публичные твиты и ссылки в них. Раиду говорит, что особенность Twitter состоит в том, что здесь ссылки сокращаются и маскируются, поэтому на практике до перехода на заданный в реальной ссылке сайт пользователь и понятия не имеет куда его приведет ссылка. Этой изначально благой возможностью, сокращающей адреса, активно пользуются хакеры.

ЛК приводит данные, согласно которым, в Twitter ежесуточно появляется около 500 000 новых ссылок на внешние ресурсы, из них от 100 до 1000 - это злонамеренные ссылки. Всего по официальным данным Twitter, около 26% твитов содержат те или иные ссылки, правда многие из них - это банальный спам, чаще всего размещаемый ботами.

В Лаборатории отмечают, что Krab Krawler блокирует до 95% злонамеренных ссылок, а сам фильтр на серверах разработчика обновляется примерно каждые 2-12 часов в зависимости от интенсивности размещения ссылок.

Источник

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

Оказывается, современный ИИ можно взломать не только сложным промптом, но и головоломкой. Исследователи из компании LayerX представили технику BioShocking, которая заставляет ИИ-браузеры добровольно воровать данные пользователя. Под удар попали сразу несколько популярных решений, включая ChatGPT Atlas, Perplexity Comet и браузерное расширение Claude от Anthropic.

Суть атаки строится вокруг так называемой косвенной инъекции в промпт. Пользователю достаточно открыть специально подготовленную веб-страницу.

Для человека это обычная игра с абсурдными правилами вроде «2 + 2 = 5». А вот ИИ воспринимает встроенные в страницу инструкции как часть задания и постепенно начинает следовать логике злоумышленника.

Финал игры выглядит так: агенту предлагают получить учётные данные пользователя и передать их атакующему. Во время эксперимента ни один из шести протестированных ИИ не распознал это как опасное действие.

 

В демонстрации LayerX агент самостоятельно открыл рабочий репозиторий GitHub пользователя, получил учётные данные SSH и отправил их злоумышленнику. Исследователи использовали безвредный текстовый файл, однако отмечают, что аналогичным способом можно добраться до открытых вкладок браузера, корпоративных сервисов, внутренних инструментов и других ресурсов.

Самое опасное здесь не сама головоломка, а возможности ИИ в режиме агента. Такие браузеры умеют нажимать кнопки, переходить по ссылкам, читать содержимое сайтов и выполнять действия от имени пользователя. Если агент уже имеет доступ к аккаунтам, вредоносная страница может превратить его в помощника злоумышленника.

 

По данным LayerX, реакция разработчиков оказалась неодинаковой. OpenAI устранила проблему в ChatGPT Atlas. Perplexity, как утверждают исследователи, закрыла отчёт без патча. Anthropic выпустила обновление для расширения Claude, но, по мнению LayerX, оно не решило проблему полностью.

Эксперты считают, что ИИ-браузеры должны запрашивать явное разрешение перед доступом к данным из сервисов. А пользователям советуют не держать агентный режим включённым без необходимости.

RSS: Новости на портале Anti-Malware.ru