ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

ИИ может склонировать JS-зловреда 10 тыс. раз и добиться FUD в 88% случаев

Проведенное в Palo Alto Networks исследование показало, что ИИ-модель можно заставить многократно обфусцировать вредоносный код JavaScript и в итоге получить семпл, не детектируемый антивирусами (FUD, fully undetectable).

Речь идет об онлайн-помощниках, авторы которых вводят ограничения во избежание злоупотреблений ИИ-технологиями — в отличие от создателей «злых» аналогов (WormGPT, FraudGPT и т. п.), заточенных под нужды киберкриминала.

Разработанный в Palo Alto алгоритм использует большую языковую модель (БЯМ, LLM) для пошаговой трансформации кода с сохранением его функциональности. При его тестировании на реальных образцах JavaScript-зловредов кастомный классификатор на основе модели глубокого обучения выдал вердикт «безвредный» в 88% случаев.

Опытным путем было установлено, что уровень детектирования снижается по мере увеличения количества итераций (в ходе экспериментов LLM создавала по 10 тыс. вариантов вредоноса). Примечательно, что привносимые изменения выглядели более естественно в сравнении с результатами готовых инструментов вроде obfuscator.io.

Для проведения исследования был также создан набор подсказок для выполнения различных преобразований, таких как переименование переменной, разделение строк, добавление мусора, удаление ненужных пробелов, альтернативная реализация функции.

Финальные варианты обфусцированных JavaScript были ради интереса загружены на VirusTotal. Их не смог распознать ни один антивирус; повторение проверок через четыре дня дало тот же эффект.

 

Результаты исследования помогли экспертам усовершенствовать свой инструмент детектирования JavaScript. Полученные с помощью LLM образцы были добавлены в тренировочный набор данных для модели машинного обучения; их использование позволило повысить результативность классификатора на 10%.

Яндекс опроверг зависимость своих нейросетей от китайской Qwen

Яндекс опроверг заявление главы Сбербанка Германа Грефа о том, что компания якобы перестала самостоятельно создавать фундаментальные ИИ-модели и теперь дообучает китайскую Qwen от Alibaba. На заседании Совета Федерации 17 июля Греф заявил, что в России осталась только одна полностью отечественная фундаментальная модель — от «Сбера».

По его словам, в основе разработок «Яндекса» теперь лежит Qwen. Такая ситуация главу Сбербанка не радует: для нормальной конкуренции стране, считает он, нужны пять-шесть разработчиков собственных моделей.

В «Яндексе» с этой версией не согласились. В пресс-службе компании заявили, что она продолжает создавать собственные фундаментальные модели, сохраняет полный цикл разработки и не зависит от сторонних решений.

Qwen действительно доступна в Yandex Cloud AI Studio с 2025 года. Однако присутствие китайской модели на облачной платформе ещё не означает, что Яндекс посадил на неё всю «Алису» и распустил собственных разработчиков. Компания параллельно развивает семейство YandexGPT, история которого началась в 2023 году. В августе 2025 года была представлена YandexGPT 5.1 Pro.

Заодно Греф оценил российское отставание в области ИИ: примерно год от США и полгода от Китая. Проблема, по его мнению, не в инженерах, а в количестве доступных вычислительных ресурсов.

Для обучения конкурентоспособной модели может потребоваться кластер из 100 тыс. ускорителей Nvidia B200. Его строительство Греф оценил в 1-2 трлн рублей, а трёхлетнюю аренду — более чем в 2 трлн. Для сравнения: в распоряжении Google, по приведённым им данным, находится свыше двух миллионов процессоров, у Microsoft — около миллиона.

Так что спор получился не только о том, чья модель отечественнее. Заодно выяснилось, что даже очень умный ИИ сначала требует совсем не искусственных триллионов.

RSS: Новости на портале Anti-Malware.ru