ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

Проведенное в Palo Alto Networks исследование показало, что ИИ-модель можно заставить многократно обфусцировать вредоносный код JavaScript и в итоге получить семпл, не детектируемый антивирусами (FUD, fully undetectable).

Речь идет об онлайн-помощниках, авторы которых вводят ограничения во избежание злоупотреблений ИИ-технологиями — в отличие от создателей «злых» аналогов (WormGPT, FraudGPT и т. п.), заточенных под нужды киберкриминала.

Разработанный в Palo Alto алгоритм использует большую языковую модель (БЯМ, LLM) для пошаговой трансформации кода с сохранением его функциональности. При его тестировании на реальных образцах JavaScript-зловредов кастомный классификатор на основе модели глубокого обучения выдал вердикт «безвредный» в 88% случаев.

Опытным путем было установлено, что уровень детектирования снижается по мере увеличения количества итераций (в ходе экспериментов LLM создавала по 10 тыс. вариантов вредоноса). Примечательно, что привносимые изменения выглядели более естественно в сравнении с результатами готовых инструментов вроде obfuscator.io.

Для проведения исследования был также создан набор подсказок для выполнения различных преобразований, таких как переименование переменной, разделение строк, добавление мусора, удаление ненужных пробелов, альтернативная реализация функции.

Финальные варианты обфусцированных JavaScript были ради интереса загружены на VirusTotal. Их не смог распознать ни один антивирус; повторение проверок через четыре дня дало тот же эффект.

 

Результаты исследования помогли экспертам усовершенствовать свой инструмент детектирования JavaScript. Полученные с помощью LLM образцы были добавлены в тренировочный набор данных для модели машинного обучения; их использование позволило повысить результативность классификатора на 10%.

Фальшивый GTA и казино-призраки захватили Early Access в Google Play Store

Недобросовестные разработчики используют программу раннего доступа Google Play для распространения приложений с ложными обещаниями заработка и агрессивной рекламой. Преимущество площадки для таких авторов очевидно: у приложений Early Access нет публичных оценок и отзывов, поэтому разочарованные пользователи не могут предупредить следующих добровольцев.

По данным Bitdefender, схему продвигают через рекламу в TikTok, Facebook (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России) и других соцсетях.

Пользователям обещают выплаты через PayPal, криптовалюту, подарочные карты и казино-джекпоты. Для убедительности в ролики добавляют дипфейки актёров, спортсменов и других знаменитостей.

После установки приложение может показать щедрый виртуальный выигрыш, но при приближении к порогу вывода денег прогресс внезапно замедляется. Реальная выплата так и не приходит, зато реклама продолжает появляться снова и снова. Весь бизнес-план умещается в одну строку: вы ждёте деньги, разработчик получает их за ваши просмотры.


Среди популярных приманок исследователи называют игры Chicken Road и Ice Fishing, а также многочисленные вариации этих названий. Некоторые приложения маскируются под казуальные головоломки или слоты, обходя ожидания, связанные с регулируемыми азартными сервисами.


Используются и известные торговые марки. Например, приложение загружают под названием Grand Theft Auto V (Early Access), ждут индексации в Google, а затем полностью меняют название и оформление. Скриншоты могут быть сгенерированы ИИ и не иметь ничего общего с игрой, которая в итоге оказывается очередным конвейером рекламы.


Bitdefender обнаружила тысячи подозрительных приложений раннего доступа. Встречаются не только псевдоказино, но и программы для заработка, PDF-ридеры, QR-сканеры, трекеры телефонов и другие утилиты. Некоторые набрали тысячи установок, а одна из игр — более миллиона.

Исследователи подчёркивают: речь не идёт о распространении вредоноснх приложений. Это злоупотребление доверием к Google Play и отсутствием публичной обратной связи. Google уведомили о проблеме, корпорация начала проверку.

RSS: Новости на портале Anti-Malware.ru