Positive Technologies научила ИИ замечать подозрительные сценарии в коде

Positive Technologies научила ИИ замечать подозрительные сценарии в коде

Positive Technologies научила ИИ замечать подозрительные сценарии в коде

Positive Technologies сообщила о разработке нейросети MOLOT, предназначенной для поиска вредоносного кода в проектах на Python, JavaScript и TypeScript. Технология уже используется в составе анализатора исходного кода PT Application Inspector версии 6.0.

В отличие от традиционных инструментов статического анализа, которые ищут опасные конструкции по заранее заданным правилам, новая модель анализирует последовательность действий, выполняемых программой.

Нейросеть оценивает не отдельные фрагменты кода, а их совокупность и пытается определить, формируют ли они подозрительный сценарий.

Проблема, которую пытаются решить разработчики, связана с так называемым намеренно внедрённым вредоносным кодом. В отличие от обычных уязвимостей, такой код не содержит ошибок, которые можно эксплуатировать извне. Он работает как легитимная часть приложения и использует те же права доступа, что и остальная программа.

 

По словам специалистов, именно поэтому многие подобные закладки остаются незамеченными при стандартных проверках безопасности.

Отдельные действия вредоносного кода сами по себе обычно не вызывают подозрений. Чтение файла, обращение к сети, шифрование данных или запуск процесса встречаются в тысячах обычных приложений. Однако если программа, например, считывает логины и пароли, кодирует их и затем отправляет на внешний сервер, такая последовательность уже может указывать на вредоносную активность.

 

Для анализа MOLOT строит цепочку действий программы — обращений к файлам, сетевых запросов, запуска процессов, использования криптографических функций и других операций. Затем эта последовательность передаётся в нейросеть, которая обучена отличать типичные сценарии работы приложений от поведения, характерного для вредоносного кода.

В компании утверждают, что тестирование проводилось на вредоносных пакетах из репозиториев PyPI и npm. По словам разработчиков, в ряде тестов модель показала более высокую точность по сравнению с существующими аналогами с открытым исходным кодом.

Одной из особенностей системы стала возможность объяснять свои выводы. Помимо самого вердикта нейросеть показывает строки кода, которые повлияли на решение. Это позволяет специалисту быстро перейти к подозрительному фрагменту и самостоятельно проверить результаты анализа.

Интерес к подобным инструментам растёт на фоне увеличения числа атак через цепочки поставок ПО, вредоносные пакеты в публичных репозиториях и распространения ИИ-инструментов для генерации программного кода.

Взломанный телеграм-канал Гурулева сообщил о мобилизации

В телеграм-канале депутата Госдумы, генерал-лейтенанта запаса Андрея Гурулева появился громкий пост о том, что СВО якобы перешла в формат позиционного тупика, а осенью будто бы планируется новая мобилизация. Но сам парламентарий быстро дал понять: к публикации он отношения не имеет.

В разговоре с RTVI Гурулев заявил:

«Нет у меня телеграм-канала. Это не мой телеграм-канал».

А в своем канале в мессенджере МАКС написал, что его телеграм-аккаунт был украден, а тексты там распространяются врагами.

«Постараемся как можно скорее вернуть доступ, всем спасибо, не ведитесь на провокации!» — говорится в сообщении депутата.

Скандальный пост появился вечером 1 июня. В нем от имени Гурулева утверждалось, что продвижение российских войск замедлилось из-за насыщения передовой и ближнего тыла беспилотниками.

Там же говорилось о якобы принятом принципиальном решении провести новую мобилизацию осенью. До кучи в публикации были критические пассажи о дефиците топлива на юге России и безопасности трассы «Новороссия».

История выглядит особенно неприятно на фоне того, что личный аккаунт и канал Гурулева в Telegram уже подвергались взлому в конце мая. Тогда мошенники писали людям от имени депутата и требовали срочно перевести криптовалюту. В канале также появлялся пост о сборе средств в криптовалюте якобы на дроны для ВДВ, но позже его удалили.

После взлома Гурулев отдельно предупреждал: если от его имени приходят сообщения с просьбой перевести деньги, передать данные или срочно что-то сделать, реагировать не надо.

RSS: Новости на портале Anti-Malware.ru