ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

Проведенное в Palo Alto Networks исследование показало, что ИИ-модель можно заставить многократно обфусцировать вредоносный код JavaScript и в итоге получить семпл, не детектируемый антивирусами (FUD, fully undetectable).

Речь идет об онлайн-помощниках, авторы которых вводят ограничения во избежание злоупотреблений ИИ-технологиями — в отличие от создателей «злых» аналогов (WormGPT, FraudGPT и т. п.), заточенных под нужды киберкриминала.

Разработанный в Palo Alto алгоритм использует большую языковую модель (БЯМ, LLM) для пошаговой трансформации кода с сохранением его функциональности. При его тестировании на реальных образцах JavaScript-зловредов кастомный классификатор на основе модели глубокого обучения выдал вердикт «безвредный» в 88% случаев.

Опытным путем было установлено, что уровень детектирования снижается по мере увеличения количества итераций (в ходе экспериментов LLM создавала по 10 тыс. вариантов вредоноса). Примечательно, что привносимые изменения выглядели более естественно в сравнении с результатами готовых инструментов вроде obfuscator.io.

Для проведения исследования был также создан набор подсказок для выполнения различных преобразований, таких как переименование переменной, разделение строк, добавление мусора, удаление ненужных пробелов, альтернативная реализация функции.

Финальные варианты обфусцированных JavaScript были ради интереса загружены на VirusTotal. Их не смог распознать ни один антивирус; повторение проверок через четыре дня дало тот же эффект.

 

Результаты исследования помогли экспертам усовершенствовать свой инструмент детектирования JavaScript. Полученные с помощью LLM образцы были добавлены в тренировочный набор данных для модели машинного обучения; их использование позволило повысить результативность классификатора на 10%.

Россиянам объяснили, почему MAX не присылает уведомления об атаках БПЛА

Губернатор Белгородской области Вячеслав Гладков рассказал, что через мессенджер MAX пока невозможно нормально организовать пуш-уведомления о ракетной опасности и атаках БПЛА. Об этом он заявил во время прямого эфира, отвечая на вопрос местной жительницы, почему в приложении нет таких оповещений.

По словам главы региона, проблема здесь не формальная, а вполне практическая: вся система оперативного информирования в приграничье завязана именно на пуш-уведомления. А это, как подчеркнул Гладков, вопрос не удобства, а безопасности.

Губернатор прямо сказал, что отсутствие своевременных уведомлений — одна из самых тяжёлых проблем для жителей приграничных районов. По его словам, от того, насколько быстро люди получают сигналы о ракетной опасности или атаке беспилотников, зависят жизни сотен тысяч человек.

При этом наладить такую систему через MAX, как следует из слов Гладкова, пока не получается. Он объяснил это тем, что пуш-уведомления в мессенджере сейчас нельзя обеспечить из-за особенностей программного обеспечения, которое, по его словам, связано с иностранными производителями. И это, как он отметил, противоречит самому подходу к работе сервиса.

Когда именно проблему удастся решить, губернатор сказать не смог. Но сообщил, что уже на этой неделе собирается в Москву, чтобы обсудить этот вопрос с федеральными властями.

Темой эфира стал не только MAX. Ещё одна жительница спросила о перебоях с мобильным интернетом. В ответ Гладков рассказал, что власти региона собираются устанавливать бесплатный Wi-Fi на новых автобусных остановках в Белгороде. В дальнейшем такие точки доступа могут появиться и в парках, и на городских площадях.

Получается, что региональные власти сейчас фактически ищут сразу два пути: с одной стороны, пытаются добиться полноценной работы MAX для экстренных оповещений, с другой — расширяют городскую инфраструктуру Wi-Fi на фоне проблем с мобильным интернетом.

RSS: Новости на портале Anti-Malware.ru