ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

Проведенное в Palo Alto Networks исследование показало, что ИИ-модель можно заставить многократно обфусцировать вредоносный код JavaScript и в итоге получить семпл, не детектируемый антивирусами (FUD, fully undetectable).

Речь идет об онлайн-помощниках, авторы которых вводят ограничения во избежание злоупотреблений ИИ-технологиями — в отличие от создателей «злых» аналогов (WormGPT, FraudGPT и т. п.), заточенных под нужды киберкриминала.

Разработанный в Palo Alto алгоритм использует большую языковую модель (БЯМ, LLM) для пошаговой трансформации кода с сохранением его функциональности. При его тестировании на реальных образцах JavaScript-зловредов кастомный классификатор на основе модели глубокого обучения выдал вердикт «безвредный» в 88% случаев.

Опытным путем было установлено, что уровень детектирования снижается по мере увеличения количества итераций (в ходе экспериментов LLM создавала по 10 тыс. вариантов вредоноса). Примечательно, что привносимые изменения выглядели более естественно в сравнении с результатами готовых инструментов вроде obfuscator.io.

Для проведения исследования был также создан набор подсказок для выполнения различных преобразований, таких как переименование переменной, разделение строк, добавление мусора, удаление ненужных пробелов, альтернативная реализация функции.

Финальные варианты обфусцированных JavaScript были ради интереса загружены на VirusTotal. Их не смог распознать ни один антивирус; повторение проверок через четыре дня дало тот же эффект.

 

Результаты исследования помогли экспертам усовершенствовать свой инструмент детектирования JavaScript. Полученные с помощью LLM образцы были добавлены в тренировочный набор данных для модели машинного обучения; их использование позволило повысить результативность классификатора на 10%.

Мошенникам в WhatsApp усложнили первый контакт

Мошенникам в WhatsApp (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России) станет немного сложнее. Мессенджер начал внедрять новую функцию безопасности для Android и iPhone: теперь перед открытием переписки с незнакомым номером пользователь увидит предупреждение с дополнительной информацией о собеседнике.

Если номер не входит в список доверенных контактов, WhatsApp покажет, в какой стране он зарегистрирован, сохранён ли он в адресной книге и есть ли у вас общие группы.

После этого можно либо продолжить общение, либо отменить открытие чата. При этом собеседник не узнает, что вы отказались от переписки.

На первый взгляд нововведение, о котором рассказывает WABetaInfo, выглядит незначительным, но именно на спешку обычно и рассчитывают мошенники. Классическая схема начинается с сообщения вроде «Привет, это мой новый номер» или просьбы срочно связаться. Пользователь открывает чат автоматически, не задумываясь, а дальше включается социальная инженерия.

Теперь WhatsApp пытается дать человеку несколько дополнительных секунд на размышление. Например, если старый знакомый внезапно пишет с номера, зарегистрированного в другой стране, это уже повод насторожиться и перепроверить информацию.

 

Ранее в WhatsApp уже появились механизмы защиты от мошеннических схем. Однако они срабатывали уже во время атаки. Новое предупреждение работает ещё раньше, до того, как пользователь вообще начнёт переписку.

Разработчики подчёркивают, что функция не является универсальной защитой. Если мошеннический номер уже сохранён в контактах, предупреждение может не появиться. И наоборот, незнакомый номер далеко не всегда означает попытку обмана (человек действительно мог сменить телефон).

Поэтому главный совет остаётся прежним: если сообщение кажется подозрительным, не торопитесь продолжать разговор. Лучше позвонить человеку по старому номеру или уточнить информацию через общих знакомых. Пара лишних минут проверки может сэкономить куда больше времени, денег и нервов.

Новая функция постепенно становится доступна пользователям WhatsApp на iOS и Android.

Ранее мы писали, что киберпреступники развернули новую международную кампанию через WhatsApp, используя взломанные аккаунты пользователей для распространения вредоносных файлов.

RSS: Новости на портале Anti-Malware.ru