NIST представил новые меры для защиты ИИ-систем

NIST представил новые меры для защиты ИИ-систем

NIST представил новые меры для защиты ИИ-систем

Национальный институт стандартов и технологий США (NIST) представил инициативу по усилению кибербезопасности систем искусственного интеллекта. Ведомство выпустило концептуальный документ и план действий по разработке специальных Control Overlays для стандарта NIST SP 800-53, которые будут учитывать риски именно в сфере ИИ.

Почему это важно: существующие подходы к киберзащите часто не охватывают угрозы, характерные для ИИ — такие как инъекция промпта, отравление моделей, утечки данных через интерфейсы и манипуляции решениями алгоритмов. Новые контрольные наборы должны закрыть эти пробелы.

Что входит в инициативу:

  • отдельные меры безопасности для генеративных ИИ, предиктивных систем и мультиагентных архитектур;
  • рекомендации для разработчиков — чтобы безопасность учитывалась на всех этапах жизненного цикла ИИ, а не «прикручивалась» постфактум;
  • расширение существующего стандарта SP 800-53 и дополнение к уже принятой AI Risk Management Framework (AI RMF 1.0).

Чтобы собрать обратную связь и сделать процесс максимально открытым, NIST запустил отдельный Slack-канал «#NIST-Overlays-Securing-AI», где к обсуждению приглашают исследователей, разработчиков, администраторов и специалистов по управлению рисками. Там будут публиковаться обновления, проводиться дискуссии и приниматься предложения по финальной версии.

Инициатива NIST может стать новым ориентиром не только для США, но и для глобального рынка — именно такие стандартизированные меры помогут компаниям по всему миру подходить к безопасности ИИ более системно.

Напомним, на днях NIST выпустил рекомендации по выявлению поддельных фото в документах. Документ под названием FATE MORPH 4B (PDF) описывает, как работают видоизменённые изображения, и объясняет, какие шаги должны предпринимать организации — от паспортных столов до пограничных служб.

Наталья Касперская предупредила об утечках данных через зарубежный ИИ

Президент ГК InfoWatch Наталья Касперская на ЦИПР-2026 предупредила компании о рисках использования зарубежных генеративных ИИ-моделей. По её словам, при работе с такими сервисами конфиденциальные данные могут уходить на иностранные серверы, где их могут использовать для дообучения моделей или передать третьим лицам.

Логика простая: компания загружает в ИИ документы, внутренние данные, сведения об инфраструктуре, производственных процессах или клиентах, а дальше уже не всегда понятно, кто это увидит, где это сохранится и как потом всплывёт.

Особенно если речь идёт о зарубежной платформе, работающей вне российской юрисдикции.

Касперская отметила, что при развёртывании ИИ-модели внутри собственной инфраструктуры риски утечек можно снизить, но за это приходится платить функциональностью. Модель становится более закрытой и менее гибкой. А если использовать весь международный опыт и внешние сервисы, появляется другая проблема: конфиденциальная информация может утечь наружу.

По её словам, особенно опасна передача в ИИ данных о российских предприятиях и инфраструктуре. Если на другой стороне есть противник, заинтересованный в ущербе, такие сведения могут стать готовой инструкцией: куда смотреть, что ломать и где больнее нажать.

Касперская также раскритиковала слепое копирование зарубежных решений. По её мнению, мир сейчас фактически подсаживают на бесплатный источник искусственного интеллекта: бизнесу говорят внедрять ИИ, но не всегда объясняют, как именно он работает и какие данные при этом утекают. А потом, когда зависимость станет слишком глубокой, снова придётся заниматься импортозамещением.

Тема особенно актуальна на фоне поручения президента внедрить ИИ во все сферы к 2030 году. Минцифры с конца 2025 года разрабатывает законопроект о регулировании ИИ, где должны появиться понятия суверенной и национальной моделей. Предполагается и обязательная сертификация таких решений во ФСТЭК и ФСБ России.

Но у рынка есть встречный вопрос: построить всё с нуля, без иностранных открытых решений, будет дорого и сложно.

RSS: Новости на портале Anti-Malware.ru