Positive Technologies научила ИИ замечать подозрительные сценарии в коде

Positive Technologies научила ИИ замечать подозрительные сценарии в коде

Positive Technologies научила ИИ замечать подозрительные сценарии в коде

Positive Technologies сообщила о разработке нейросети MOLOT, предназначенной для поиска вредоносного кода в проектах на Python, JavaScript и TypeScript. Технология уже используется в составе анализатора исходного кода PT Application Inspector версии 6.0.

В отличие от традиционных инструментов статического анализа, которые ищут опасные конструкции по заранее заданным правилам, новая модель анализирует последовательность действий, выполняемых программой.

Нейросеть оценивает не отдельные фрагменты кода, а их совокупность и пытается определить, формируют ли они подозрительный сценарий.

Проблема, которую пытаются решить разработчики, связана с так называемым намеренно внедрённым вредоносным кодом. В отличие от обычных уязвимостей, такой код не содержит ошибок, которые можно эксплуатировать извне. Он работает как легитимная часть приложения и использует те же права доступа, что и остальная программа.

 

По словам специалистов, именно поэтому многие подобные закладки остаются незамеченными при стандартных проверках безопасности.

Отдельные действия вредоносного кода сами по себе обычно не вызывают подозрений. Чтение файла, обращение к сети, шифрование данных или запуск процесса встречаются в тысячах обычных приложений. Однако если программа, например, считывает логины и пароли, кодирует их и затем отправляет на внешний сервер, такая последовательность уже может указывать на вредоносную активность.

 

Для анализа MOLOT строит цепочку действий программы — обращений к файлам, сетевых запросов, запуска процессов, использования криптографических функций и других операций. Затем эта последовательность передаётся в нейросеть, которая обучена отличать типичные сценарии работы приложений от поведения, характерного для вредоносного кода.

В компании утверждают, что тестирование проводилось на вредоносных пакетах из репозиториев PyPI и npm. По словам разработчиков, в ряде тестов модель показала более высокую точность по сравнению с существующими аналогами с открытым исходным кодом.

Одной из особенностей системы стала возможность объяснять свои выводы. Помимо самого вердикта нейросеть показывает строки кода, которые повлияли на решение. Это позволяет специалисту быстро перейти к подозрительному фрагменту и самостоятельно проверить результаты анализа.

Интерес к подобным инструментам растёт на фоне увеличения числа атак через цепочки поставок ПО, вредоносные пакеты в публичных репозиториях и распространения ИИ-инструментов для генерации программного кода.

Блокировки VPN ударили по российским разработчикам

Ограничения на использование VPN привели к проблемам со стабильным доступом к репозиториям кода и другим элементам инфраструктуры разработки. В результате многие процессы разработки программного обеспечения существенно осложнились. В первую очередь трудности затронули компании, участвующие в международных проектах и активно использующие открытый код.

О том, что меры регулятора по противодействию использованию VPN создают проблемы для российских разработчиков, сообщает «Коммерсантъ» со ссылкой на представителей нескольких отечественных компаний.

По оценкам экспертов, которые приводит издание, доля открытого кода во многих продуктах, включая решения из реестра Минцифры, превышает 50%, а в отдельных случаях достигает 90%.

При этом доступ к ключевым элементам инфраструктуры разработки — репозиториям кода, системам управления версиями, библиотекам и средам разработки с облачными компонентами — может быть затруднён из-за ограничений, связанных с блокировкой VPN. Использование VPN позволяет разработчикам обходить ограничения, введённые рядом зарубежных сервисов в отношении российских пользователей и компаний.

Как отметили в ассоциации «Руссофт», попытки блокировать отдельные протоколы, используемые для создания виртуальных частных сетей и защищённого доступа к ресурсам, нарушают нормальную работу сети и создают проблемы для добросовестных пользователей.

С действиями регулятора участники рынка также связывают сложности с доступом к отдельным ресурсам. Так, накануне оказался недоступен PyPI — крупнейший репозиторий пакетов для Python. Спустя несколько часов Роскомнадзор заявил о своей непричастности к возникшим проблемам.

«Фактически речь идёт обо всей инфраструктуре, которая обеспечивает современный цикл разработки и тесно интегрирована с глобальными сервисами», — прокомментировал руководитель отдела администрирования и DevOps ГК Softline Александр Дёмин.

По словам ИТ-директора ГК «КОРУС Консалтинг» Максима Копова, разработчики столкнулись с двойными ограничениями: с одной стороны — с блокировками внутри страны, с другой — с ограничениями для российских пользователей и компаний со стороны зарубежных сервисов. В результате усложнились процессы сборки, обновления и сопровождения программного обеспечения.

«Системный характер сбои приобрели с февраля—марта. Это совпало с несколькими волнами ограничений популярных VPN-сервисов, когда стало очевидно, что корпоративные туннели попадают под блокировки по тем же критериям, что и пользовательские», — отметил ведущий специалист отдела исследовательских разработок компании «Стахановец» Алексей Миронов.

Кроме того, как подчеркнул генеральный директор Postgres Professional Иван Панченко, VPN широко используются для организации удалённого доступа сотрудников. Отказ от этой технологии может привести к дополнительным рискам информационной безопасности.

В Роскомнадзоре сообщили изданию, что доступ к зарубежным ресурсам с использованием необходимых российским организациям VPN-протоколов предоставляется по заявкам. По данным ведомства, в перечень исключений уже включены более 57 тыс. адресов и подсетей 1,7 тыс. организаций, в том числе компаний-разработчиков.

RSS: Новости на портале Anti-Malware.ru