NIST представил новые меры для защиты ИИ-систем

NIST представил новые меры для защиты ИИ-систем

NIST представил новые меры для защиты ИИ-систем

Национальный институт стандартов и технологий США (NIST) представил инициативу по усилению кибербезопасности систем искусственного интеллекта. Ведомство выпустило концептуальный документ и план действий по разработке специальных Control Overlays для стандарта NIST SP 800-53, которые будут учитывать риски именно в сфере ИИ.

Почему это важно: существующие подходы к киберзащите часто не охватывают угрозы, характерные для ИИ — такие как инъекция промпта, отравление моделей, утечки данных через интерфейсы и манипуляции решениями алгоритмов. Новые контрольные наборы должны закрыть эти пробелы.

Что входит в инициативу:

  • отдельные меры безопасности для генеративных ИИ, предиктивных систем и мультиагентных архитектур;
  • рекомендации для разработчиков — чтобы безопасность учитывалась на всех этапах жизненного цикла ИИ, а не «прикручивалась» постфактум;
  • расширение существующего стандарта SP 800-53 и дополнение к уже принятой AI Risk Management Framework (AI RMF 1.0).

Чтобы собрать обратную связь и сделать процесс максимально открытым, NIST запустил отдельный Slack-канал «#NIST-Overlays-Securing-AI», где к обсуждению приглашают исследователей, разработчиков, администраторов и специалистов по управлению рисками. Там будут публиковаться обновления, проводиться дискуссии и приниматься предложения по финальной версии.

Инициатива NIST может стать новым ориентиром не только для США, но и для глобального рынка — именно такие стандартизированные меры помогут компаниям по всему миру подходить к безопасности ИИ более системно.

Напомним, на днях NIST выпустил рекомендации по выявлению поддельных фото в документах. Документ под названием FATE MORPH 4B (PDF) описывает, как работают видоизменённые изображения, и объясняет, какие шаги должны предпринимать организации — от паспортных столов до пограничных служб.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Под блокировку Роскомнадзора попали уже 260 VPN

В настоящее время Роскомнадзор блокирует доступ к 258 сервисам VPN, не препятствующим доступу к запрещенному в стране контенту. В сравнении с прошлым годом черный список российского регулятора возрос почти на 31%.

В 2024 году под блок РКН попали 197 VPN. Новые цифры озвучил на проходящем в Сочи форуме Спектр-2025 Владислав Смирнов, возглавляющий исследования перспективных технологий в ГРЧЦ (Главный радиочастотный центр, работает под эгидой РКН).

Со слов спикера корреспондент ТАСС также пишет, что в 2025 году в рунете было заблокировано 252 анонимных имейл-сервиса (+20% в сравнении с 2024-м), 173 приложения (+28%), 410 источников вредоносных программ и 119 тыс. фишинговых сайтов (+441%).

По всей видимости, речь идет о ресурсах, уличенных в нарушении российского законодательства и попавших за это в реестр запрещенных Роскомнадзором.

Блокировка таких правонарушителей осуществляется с помощью технических средств противодействия угрозамТСПУ. Это оборудование устанавливается у интернет-провайдеров, но находится в ведении РКН.

Напомним, с марта прошлого года в России под блок могут попасть не только VPN-сервисы, игнорирующие требования регулятора рунета, но также ресурсы, рекламирующие VPN как средство обхода ограничений, введенных Роскомнадзором.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru