ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

Проведенное в Palo Alto Networks исследование показало, что ИИ-модель можно заставить многократно обфусцировать вредоносный код JavaScript и в итоге получить семпл, не детектируемый антивирусами (FUD, fully undetectable).

Речь идет об онлайн-помощниках, авторы которых вводят ограничения во избежание злоупотреблений ИИ-технологиями — в отличие от создателей «злых» аналогов (WormGPT, FraudGPT и т. п.), заточенных под нужды киберкриминала.

Разработанный в Palo Alto алгоритм использует большую языковую модель (БЯМ, LLM) для пошаговой трансформации кода с сохранением его функциональности. При его тестировании на реальных образцах JavaScript-зловредов кастомный классификатор на основе модели глубокого обучения выдал вердикт «безвредный» в 88% случаев.

Опытным путем было установлено, что уровень детектирования снижается по мере увеличения количества итераций (в ходе экспериментов LLM создавала по 10 тыс. вариантов вредоноса). Примечательно, что привносимые изменения выглядели более естественно в сравнении с результатами готовых инструментов вроде obfuscator.io.

Для проведения исследования был также создан набор подсказок для выполнения различных преобразований, таких как переименование переменной, разделение строк, добавление мусора, удаление ненужных пробелов, альтернативная реализация функции.

Финальные варианты обфусцированных JavaScript были ради интереса загружены на VirusTotal. Их не смог распознать ни один антивирус; повторение проверок через четыре дня дало тот же эффект.

 

Результаты исследования помогли экспертам усовершенствовать свой инструмент детектирования JavaScript. Полученные с помощью LLM образцы были добавлены в тренировочный набор данных для модели машинного обучения; их использование позволило повысить результативность классификатора на 10%.

Telegram опроверг утверждение властей РФ о доступе спецслужб к перепискам

Telegram опроверг возможность перехвата IM-сообщений участников СВО иностранной разведкой. Такое предположение высказал глава Минцифры РФ Максут Шадаев на заседании комитета Госдумы по информполитике.

Комментируя этот выпад для СМИ, администрация мессенджера отметила, что секретные чаты Telegram используют сквозное шифрование. Соответствующие криптоключи хранятся локально, на устройствах пользователей, и содержимое переписок недоступно даже самой веб-службе.

В ходе заседания в Госдуме, состоявшегося два дня назад, высокопоставленный участник заявил:

«Много фактов, которые подтверждены нашими органами, что доступ к переписке в “Телеграме” имеют иностранные спецслужбы, которые используют эти данные в рамках ведения боевых действий против наших Вооруженных сил».

Вместе с тем министр отметил, что в попытках заставить иностранный мессенджер соблюдать российское законодательство никто не собирается «рубить с плеча». Меры принуждения принимаются поэтапно, с пониманием значимости сервиса.

В ответ на запрос «Рейтер» Telegram предоставил резкий комментарий:

«Утверждение российских властей о том, что наше шифрование будто бы скомпрометировано, является преднамеренной фабрикацией, призванной оправдать запрет Telegram».

Ограничения работы популярной IM-службы российские власти объясняют не только борьбой с противоправным контентом, но также стремлением защитить граждан от происков киберкриминала, облюбовавшего Telegram.

С 2022 года МВД РФ зафиксировало 153 тыс. преступлений, совершенных с использованием данного мессенджера; 30 тыс. из них составили диверсии и теракты. Сервис также проигнорировал 150 тыс. запросов на удаление запрещенной в стране информации.

В результате в России для начала ограничили голосовую связь через Telegram, что, по данным Минцифры, позволило снизить объемы мошенничества на 23%.

С 10 февраля начались работы по замедлению Telegram, хотя и не без нежелательного побочного эффекта: у пользователей Windows и разработчиков ОС на основе Linux, в том числе российских, возникли проблемы с получением обновлений.

RSS: Новости на портале Anti-Malware.ru