ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

Проведенное в Palo Alto Networks исследование показало, что ИИ-модель можно заставить многократно обфусцировать вредоносный код JavaScript и в итоге получить семпл, не детектируемый антивирусами (FUD, fully undetectable).

Речь идет об онлайн-помощниках, авторы которых вводят ограничения во избежание злоупотреблений ИИ-технологиями — в отличие от создателей «злых» аналогов (WormGPT, FraudGPT и т. п.), заточенных под нужды киберкриминала.

Разработанный в Palo Alto алгоритм использует большую языковую модель (БЯМ, LLM) для пошаговой трансформации кода с сохранением его функциональности. При его тестировании на реальных образцах JavaScript-зловредов кастомный классификатор на основе модели глубокого обучения выдал вердикт «безвредный» в 88% случаев.

Опытным путем было установлено, что уровень детектирования снижается по мере увеличения количества итераций (в ходе экспериментов LLM создавала по 10 тыс. вариантов вредоноса). Примечательно, что привносимые изменения выглядели более естественно в сравнении с результатами готовых инструментов вроде obfuscator.io.

Для проведения исследования был также создан набор подсказок для выполнения различных преобразований, таких как переименование переменной, разделение строк, добавление мусора, удаление ненужных пробелов, альтернативная реализация функции.

Финальные варианты обфусцированных JavaScript были ради интереса загружены на VirusTotal. Их не смог распознать ни один антивирус; повторение проверок через четыре дня дало тот же эффект.

 

Результаты исследования помогли экспертам усовершенствовать свой инструмент детектирования JavaScript. Полученные с помощью LLM образцы были добавлены в тренировочный набор данных для модели машинного обучения; их использование позволило повысить результативность классификатора на 10%.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

57% россиян не уверены в эффективности своих мер киберзащиты

Согласно результатам опроса, проведенного ВЦИОМ и АНО «Цифровая экономика», защитить персональные данные в интернете пытаются 97% жителей России, однако больше половины считают превентивные меры недостаточными.

Опрос о культуре ИБ проводился онлайн в начале июля, в нем приняли участие 1626 представителей разных возрастных групп (18 лет и старше).

Как выяснилось, почти все респонденты обладают базовыми знаниями о кибергигиене. Они используют антивирус, не расшаривают пароли по имейл и не светят их в соцсетях, не хранят данные банковских карт на компьютере, не используют публичный Wi-Fi.

Миллениалы отдают предпочтение более продвинутым способам защиты: придумывают сложные пароли, используют браузер в режиме «инкогнито», отключают автоматическое сохранение учетных данных и открытие потенциально опасных сайтов, чаще пользуются 2FA.

В то же время 57% россиян не уверены, что принимаемые меры надежно защитят их устройства от киберугроз. Больше прочих в своих ИБ-способностях сомневаются пенсионеры, люди с низким достатком (по 70%), жители небольших городов и сел (61-63%), а также те, кто не интересуется состоянием дел на киберфронте (69%).

Что касается сбора данных в интернете, больше половины опрошенных знают об этом понаслышке, а остальных беспокоит в основном инициатива частных лиц и коммерческих компаний.

В отношении госсектора мнения разделились: 47% россиян считают, что использование ПДн госструктурами создает лишние риски, 48% уверены, что это безопасно. Развенчать опасения недоверчивых поможет запуск платформы согласий на Госуслугах, который ожидается в 2028 году.

В вопросе о мошеннических звонках от имени банка респонденты проявили единодушие: конфиденциальные данные по таким запросам предоставлять нельзя. Три четверти участников опроса в ответ просто вешают трубку и уточняют информацию, перезванивая в банк по официальному номеру. Что важнее, так уже поступают 79% людей преклонного возраста.

Ввиду роста числа атак с использованием ИИ, в том числе дипфейков, созданных с помощью таких инструментов, инициаторам опроса было интересно узнать, готовы ли россияне к противодействию новой угрозе.

В этом году МВД РФ фиксирует расширение использования дипфейков в мошеннических схемах. Опрос показал, что в своей способности распознать эту киберугрозу уверены меньше половины опрошенных — в основном молодежь.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru