ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

Проведенное в Palo Alto Networks исследование показало, что ИИ-модель можно заставить многократно обфусцировать вредоносный код JavaScript и в итоге получить семпл, не детектируемый антивирусами (FUD, fully undetectable).

Речь идет об онлайн-помощниках, авторы которых вводят ограничения во избежание злоупотреблений ИИ-технологиями — в отличие от создателей «злых» аналогов (WormGPT, FraudGPT и т. п.), заточенных под нужды киберкриминала.

Разработанный в Palo Alto алгоритм использует большую языковую модель (БЯМ, LLM) для пошаговой трансформации кода с сохранением его функциональности. При его тестировании на реальных образцах JavaScript-зловредов кастомный классификатор на основе модели глубокого обучения выдал вердикт «безвредный» в 88% случаев.

Опытным путем было установлено, что уровень детектирования снижается по мере увеличения количества итераций (в ходе экспериментов LLM создавала по 10 тыс. вариантов вредоноса). Примечательно, что привносимые изменения выглядели более естественно в сравнении с результатами готовых инструментов вроде obfuscator.io.

Для проведения исследования был также создан набор подсказок для выполнения различных преобразований, таких как переименование переменной, разделение строк, добавление мусора, удаление ненужных пробелов, альтернативная реализация функции.

Финальные варианты обфусцированных JavaScript были ради интереса загружены на VirusTotal. Их не смог распознать ни один антивирус; повторение проверок через четыре дня дало тот же эффект.

 

Результаты исследования помогли экспертам усовершенствовать свой инструмент детектирования JavaScript. Полученные с помощью LLM образцы были добавлены в тренировочный набор данных для модели машинного обучения; их использование позволило повысить результативность классификатора на 10%.

Gmail можно читать без пароля: хакеры используют сохранённые сессии

Открыл Gmail в браузере, поработал и забыл выйти из аккаунта? Оказывается, именно такая привычка может сыграть на руку злоумышленникам. Схема основана на сохранённой сессии пользователя. Если человек остается аутентифицированным в Gmail, атакующие могут запустить экземпляр браузера, подключиться к его отладочному порту и отправить запросы к сервисам Google от имени уже вошедшего пользователя.

Как сообщают «Ведомости» со ссылкой на исследование «Лаборатории Касперского», специалисты обнаружили механизм, позволяющий киберпреступникам получить доступ к корпоративной почте Gmail и другим сервисам Google без повторного ввода логина и пароля.

По словам эксперта «Лаборатории Касперского» Андрея Гунькина, через API Google сторонние приложения могут получать доступ к различным сервисам — например, к почте или календарю. Этим механизмом, как утверждают исследователи, способны воспользоваться и злоумышленники.

Исследование проводилось во время анализа активности китайской киберпреступной группировки ToddyCat. Именно в рамках этого расследования специалисты обнаружили описанный способ компрометации учетных записей.

Под угрозой могут оказаться не только корпоративные пользователи. По данным исследователей, атака потенциально применима к любым браузерам на базе Chromium, включая Google Chrome, Microsoft Edge, Opera и Brave.

По оценке «Ведомостей», потенциально такой механизм может затронуть до 40,8 млн российских пользователей. Эта цифра отражает возможное количество пользователей соответствующих браузеров и сервисов, а не число уже скомпрометированных аккаунтов.

Эксперты напоминают, что риск возникает только при выполнении ряда условий, включая наличие доступа злоумышленника к устройству жертвы. Поэтому одним из важных способов защиты остается своевременный выход из учётной записи на чужих или общедоступных компьютерах, а также контроль запущенных приложений и процессов на собственном устройстве.

RSS: Новости на портале Anti-Malware.ru