Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Red Teaming в применении к ИИ требует переосмысления

Учения Generative Red Team, проведенные в рамках DEF CON 32, показали, что подобный способ оценки защищенности ИИ не дает адекватной картины. Эксперты предлагают создать систему, подобную CVE и учитывающую целевое назначение объектов анализа.

В мероприятии приняли участие (PDF) около 500 добровольцев с разным опытом аудита больших языковых моделей (БЯМ, LLM). В 48 случаях за выявленные недочеты были выплачены премии — суммарно $7850.

Тем не менее организаторы пришли к выводу, что метод Red Teaming в применении к ИИ необходимо усовершенствовать. Большой проблемой оказалось фрагментарность документации по LLM, которые к тому же разнятся по предусмотренному применению.

Без учета назначения ИИ-модели и сообразных встроенных ограничений результаты таких проверок на прочность могут ввести в заблуждение. Более того, отсутствие единых критериев оценки может привести к противоречивым заключениям.

Бурный рост и развитие ИИ-технологий создали новые риски, однако ни у кого пока нет четкого представления о том, как тестировать такие продукты и выстраивать их защиту.

Обеспечение безопасности LLM, по словам экспертов, — нескончаемый процесс. Умные помощники могут ошибаться, им свойственны галлюцинации, предвзятость (из-за неправильного обучения), уязвимость к инъекции стимула. Подобные системы бесперспективно защищать от взлома, однако его можно сделать более затратным, а последствия — краткосрочными.

Организаторы Generative Red Team призывают ИИ- и ИБ-сообщества совместными усилиями решить настоятельные проблемы. В противном случае техническая революция приведет к появлению ИИ-инструментов, на которые невозможно положиться; живой пример тому — скороспелка DeepSeek.

Kaspersky NGFW 1.2 ускорился до 140 Гбит/с и получил новые сетевые функции

«Лаборатория Касперского» выпустила крупное обновление межсетевого экрана нового поколения Kaspersky NGFW. Версию 1.2 представили на «ИННОПРОМ-2026». В релизе сделали акцент на работе в корпоративных сетях, отказоустойчивости, производительности, маршрутизации, мониторинге и управлении политиками.

По данным компании, показатель обнаружения угроз в Kaspersky NGFW составляет не менее 95%, а в отдельных сценариях достигает 100%.

Производительность старшей аппаратной платформы KX-3500 выросла вдвое — до 140 Гбит/с в режиме NGFW. Также расширилась база определяемых приложений: теперь их более 6000. Поддержка правил межсетевого экранирования увеличена до 100 000, а число сигнатур в IDPS-движке превысило 9000.

Одно из заметных изменений — поддержка виртуальных контекстов VSS. Она позволяет запускать на одном физическом NGFW несколько независимых логических копий продукта со своими политиками безопасности, таблицами маршрутизации и настройками. Такой подход может пригодиться для сегментации сети: например, один контекст — для доступа в интернет, другой — для изолированного сегмента.

В версии 1.2 появилась маршрутизация на основе политик. Теперь трафик можно направлять не только по стандартным таблицам маршрутизации, но и по заданным правилам — с учётом интерфейсов, IP-адресов, сервисов и пользователей.

Обновили и работу с конфигурациями политик. Перед применением изменений администратор видит список правок: что именно изменилось, кто это сделал и когда. Это должно снизить риск конфликтов, особенно если с настройками одновременно работают несколько специалистов.

Также добавили IP SLA tracking для статической маршрутизации. Функция помогает переключать трафик на резервный маршрут, если у основного соединения ухудшились параметры, например выросли задержки или начались потери пакетов.

Кроме того, Kaspersky NGFW теперь поддерживает policy- и route-based Site-to-Site IPsec VPN, получил защиту от IP Spoofing и дополнительные возможности мониторинга кластера, BGP- и OSPF-соседств через SNMP.

RSS: Новости на портале Anti-Malware.ru