NIST представил новые меры для защиты ИИ-систем

NIST представил новые меры для защиты ИИ-систем

NIST представил новые меры для защиты ИИ-систем

Национальный институт стандартов и технологий США (NIST) представил инициативу по усилению кибербезопасности систем искусственного интеллекта. Ведомство выпустило концептуальный документ и план действий по разработке специальных Control Overlays для стандарта NIST SP 800-53, которые будут учитывать риски именно в сфере ИИ.

Почему это важно: существующие подходы к киберзащите часто не охватывают угрозы, характерные для ИИ — такие как инъекция промпта, отравление моделей, утечки данных через интерфейсы и манипуляции решениями алгоритмов. Новые контрольные наборы должны закрыть эти пробелы.

Что входит в инициативу:

  • отдельные меры безопасности для генеративных ИИ, предиктивных систем и мультиагентных архитектур;
  • рекомендации для разработчиков — чтобы безопасность учитывалась на всех этапах жизненного цикла ИИ, а не «прикручивалась» постфактум;
  • расширение существующего стандарта SP 800-53 и дополнение к уже принятой AI Risk Management Framework (AI RMF 1.0).

Чтобы собрать обратную связь и сделать процесс максимально открытым, NIST запустил отдельный Slack-канал «#NIST-Overlays-Securing-AI», где к обсуждению приглашают исследователей, разработчиков, администраторов и специалистов по управлению рисками. Там будут публиковаться обновления, проводиться дискуссии и приниматься предложения по финальной версии.

Инициатива NIST может стать новым ориентиром не только для США, но и для глобального рынка — именно такие стандартизированные меры помогут компаниям по всему миру подходить к безопасности ИИ более системно.

Напомним, на днях NIST выпустил рекомендации по выявлению поддельных фото в документах. Документ под названием FATE MORPH 4B (PDF) описывает, как работают видоизменённые изображения, и объясняет, какие шаги должны предпринимать организации — от паспортных столов до пограничных служб.

Kaspersky KUMA научилась писать Regex и подключать внешние нейросети

«Лаборатория Касперского» выпустила Kaspersky Unified Monitoring and Analysis Platform 4.6. SIEM-система получила новую базу знаний, поддержку внешних больших языковых моделей и автоматическую генерацию регулярных выражений. А ещё тёмную тему — до неё корпоративные пользователи тоже дожили.

Одно из главных изменений — переработанная доставка вендорского контента: нормализаторов, правил корреляции и других материалов.

Вместо прежнего механизма, который оставили для совместимости, основным инструментом стала база знаний. В ней проще искать и подбирать контент под конкретные сценарии.

При появлении новых атак пользователи смогут получать экстренные пакеты с правилами обнаружения и другими ресурсами. Иными словами, после публикации исследования не придётся вручную собирать защиту по кусочкам — готовый набор обещают доставлять быстрее.

KUMA 4.6 также разрешили подключать внешние LLM, совместимые с OpenAI API. Среди примеров разработчики называют GPT-4, Llama 3 и GLM-5.2. Модель можно развернуть в облаке или внутри инфраструктуры заказчика. Во втором случае анализ событий и помощь в расследованиях доступны без отправки данных во внешние сервисы.

ИИ-ассистент Kaspersky Investigation & Response Assistant теперь умеет генерировать регулярные выражения для разбора событий по примерам логов. Администратору достаточно показать системе образцы, а нужный Regex она попробует собрать сама.

Набор интеграций тоже расширили. Платформа получила поддержку SFTP и SMB для получения данных из файловых хранилищ, а через ODBC-драйверы её можно подключать к различным СУБД.

Наконец, разработчики обновили интерфейс и добавили долгожданную тёмную тему. Получился релиз сразу для двух лагерей: аналитикам — новые правила и LLM, глазам — чуть меньше ослепительного белого во время ночного разбора инцидентов.

RSS: Новости на портале Anti-Malware.ru