Новое решение Angara Security на базе ML повысит эффективность SOC

Новое решение Angara Security на базе ML повысит эффективность SOC

Новое решение Angara Security на базе ML повысит эффективность SOC

Специалисты компании Angara Security выпустили решение на базе нейронной сети, интегрирующееся с SIEM-системой. По словам разработчиков, новинка поможет повысить эффективность мониторинга в SOC.

Комбинированные слои, из которых состоит нейронная сеть, свойственны как сверточным сетям (Convolutional Neural Networks), так и рекуррентным (Recurrent Neural Networks).

Таким образом, разработка поможет дополнить стандартные методы анализа событий в информационной безопасности, а также с высокой точностью выявлять вредоносную активность по характерным паттернам.

В этом случае безопасники избавляются от необходимости писать отдельные правила детектирования для каждой новой утилиты или процедуры.

«ML-модели являются отличным вспомогательным инструментом в работе аналитиков. С одной стороны, они позволяют расширить возможности по детектированию активности злоумышленников, с другой — автоматизировать часть процессов и высвободить ресурсы для задач, требующих участия человека», — комментирует Артем Грибков, заместитель директора Angara SOC по развитию бизнеса.

Использованная Angara Security ML-модель может применяться в трёх сценариях. Например, для детектирования PowerShell-скриптов — одного из любимых инструментов киберпреступников.

Второй сценарий — обнаружение DGA-доменов и DNS-туннелирования. Зачастую классические методы анализа DNS-имен выдают ложноположительные срабатывания, а сверху ещё накладывается проблема доменных имён, похожих на легитимные. В Angara Security отмечают, что ML-решение справляется с этой задачей.

Наконец, третий сценарий — анализ журналов веб-серверов. ML-модель в этом случае может использоваться в качестве дополнения к WAF-системам или как альтернатива эшелонированной защиты веб-ресурсов.

Подпишитесь на новости

PT Application Firewall получил защиту от атак на LLM

Корпоративному ИИ-ассистенту доверили документы, клиентские данные и доступ к системам. Теперь осталось проследить, чтобы командовать им не начал первый встречный. Positive Technologies разработала LLM Firewall — модуль защиты ИИ-сервисов в составе PT Application Firewall.

По словам компании, он проверяет запросы к языковым моделям и их ответы: ищет попытки обойти ограничения, вытащить системные инструкции, раскрыть конфиденциальную информацию или использовать возможности агента в интересах атакующего.

Одна из целей — противодействие инъекциям в промпт. Вредоносную инструкцию можно отправить боту напрямую или спрятать в документе, который тот обрабатывает. Внешне это обычный текст, а по замыслу — попытка назначить нейросети нового начальника.

Подозрительные обращения модуль позволяет блокировать либо фиксировать для последующего разбора. Отдельно заявлено обнаружение персональных данных, паролей, ключей доступа, а также токсичного и запрещённого контента.

Проверка работает в обе стороны: контролируется и то, что отправляют модели, и то, что она выдаёт пользователю. Секреты могут утечь не только из-за хитрого атакующего, но и благодаря очень старательному сотруднику.

LLM Firewall уже интегрирован в PT AF Cloud. Он подключается к обмену между приложением и моделью через API, совместимый с OpenAI Chat Completions и Responses. Отдельная консоль управления не требуется. В PT AF PRO для развёртывания внутри инфраструктуры заказчика модуль обещают добавить позднее.

Для разных ИИ-сервисов можно задавать свои политики, выбирать мониторинг или блокировку, отдельно настраивать проверку запросов и ответов. События поступают в PT AF для анализа и расследования.

RSS: Новости на портале Anti-Malware.ru