ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

Проведенное в Palo Alto Networks исследование показало, что ИИ-модель можно заставить многократно обфусцировать вредоносный код JavaScript и в итоге получить семпл, не детектируемый антивирусами (FUD, fully undetectable).

Речь идет об онлайн-помощниках, авторы которых вводят ограничения во избежание злоупотреблений ИИ-технологиями — в отличие от создателей «злых» аналогов (WormGPT, FraudGPT и т. п.), заточенных под нужды киберкриминала.

Разработанный в Palo Alto алгоритм использует большую языковую модель (БЯМ, LLM) для пошаговой трансформации кода с сохранением его функциональности. При его тестировании на реальных образцах JavaScript-зловредов кастомный классификатор на основе модели глубокого обучения выдал вердикт «безвредный» в 88% случаев.

Опытным путем было установлено, что уровень детектирования снижается по мере увеличения количества итераций (в ходе экспериментов LLM создавала по 10 тыс. вариантов вредоноса). Примечательно, что привносимые изменения выглядели более естественно в сравнении с результатами готовых инструментов вроде obfuscator.io.

Для проведения исследования был также создан набор подсказок для выполнения различных преобразований, таких как переименование переменной, разделение строк, добавление мусора, удаление ненужных пробелов, альтернативная реализация функции.

Финальные варианты обфусцированных JavaScript были ради интереса загружены на VirusTotal. Их не смог распознать ни один антивирус; повторение проверок через четыре дня дало тот же эффект.

 

Результаты исследования помогли экспертам усовершенствовать свой инструмент детектирования JavaScript. Полученные с помощью LLM образцы были добавлены в тренировочный набор данных для модели машинного обучения; их использование позволило повысить результативность классификатора на 10%.

MAX начал помечать звонки от неизвестных и показывать регион вызова

Мессенджер MAX продолжает усиливать защиту от телефонных мошенников. В новом обновлении сервис начал предупреждать пользователей о звонках от неизвестных абонентов — прямо во время входящего вызова. Теперь, если звонит номер, которого нет в списке контактов, на экране появится заметная плашка «Нет в контактах».

А если вызов поступает из-за границы, MAX дополнительно покажет регион, откуда звонят. Никаких сложных настроек не требуется — достаточно просто обновить приложение.

В компании уточняют, что нововведение стало частью общей антифрод-стратегии мессенджера и направлено на то, чтобы пользователи быстрее ориентировались в потенциально подозрительных звонках.

В MAX уже работает кнопка «Пожаловаться». Если сообщение или звонок вызывают сомнения, достаточно зажать сообщение в чате, выбрать пункт «Пожаловаться» и указать причину — спам, мошенничество или нежелательный контент. Такие обращения оперативно проверяют специалисты Центра безопасности MAX.

Дополнительно пользователям рекомендуют включить двухфакторную аутентификацию. Она настраивается в разделе «Приватность» и предполагает подтверждение входа сразу двумя способами: кодом из СМС и облачным паролем. В компании подчёркивают, что пароль должен быть сложным, а подсказка — неочевидной для посторонних.

По состоянию на 14 января в MAX зарегистрировано 85 млн пользователей, а суточный охват превышает 55 млн активных аккаунтов. С момента запуска пользователи отправили более 18 млрд сообщений, совершили 2,5 млрд звонков, записали свыше 200 млн видеокружков и отправили более 1 млрд стикеров.

Центр безопасности мессенджера также отчитывается о результатах борьбы с угрозами: только в сентябре было заблокировано 105 тысяч подозрительных аккаунтов и удалено более 350 тысяч вредоносных файлов. Совместная работа с МВД РФ, по данным компании, привела к задержанию девяти мошенников в разных регионах страны.

Сегодня мы также писали, что в России могут сделать ещё один шаг к «безбумажному» вождению. МВД РФ предлагает официально приравнять показ водительских прав и регистрационных документов на автомобиль в мессенджере MAX к предъявлению их бумажных оригиналов.

RSS: Новости на портале Anti-Malware.ru