NIST представил новые меры для защиты ИИ-систем

NIST представил новые меры для защиты ИИ-систем

NIST представил новые меры для защиты ИИ-систем

Национальный институт стандартов и технологий США (NIST) представил инициативу по усилению кибербезопасности систем искусственного интеллекта. Ведомство выпустило концептуальный документ и план действий по разработке специальных Control Overlays для стандарта NIST SP 800-53, которые будут учитывать риски именно в сфере ИИ.

Почему это важно: существующие подходы к киберзащите часто не охватывают угрозы, характерные для ИИ — такие как инъекция промпта, отравление моделей, утечки данных через интерфейсы и манипуляции решениями алгоритмов. Новые контрольные наборы должны закрыть эти пробелы.

Что входит в инициативу:

  • отдельные меры безопасности для генеративных ИИ, предиктивных систем и мультиагентных архитектур;
  • рекомендации для разработчиков — чтобы безопасность учитывалась на всех этапах жизненного цикла ИИ, а не «прикручивалась» постфактум;
  • расширение существующего стандарта SP 800-53 и дополнение к уже принятой AI Risk Management Framework (AI RMF 1.0).

Чтобы собрать обратную связь и сделать процесс максимально открытым, NIST запустил отдельный Slack-канал «#NIST-Overlays-Securing-AI», где к обсуждению приглашают исследователей, разработчиков, администраторов и специалистов по управлению рисками. Там будут публиковаться обновления, проводиться дискуссии и приниматься предложения по финальной версии.

Инициатива NIST может стать новым ориентиром не только для США, но и для глобального рынка — именно такие стандартизированные меры помогут компаниям по всему миру подходить к безопасности ИИ более системно.

Напомним, на днях NIST выпустил рекомендации по выявлению поддельных фото в документах. Документ под названием FATE MORPH 4B (PDF) описывает, как работают видоизменённые изображения, и объясняет, какие шаги должны предпринимать организации — от паспортных столов до пограничных служб.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

$1 млн за дыру в WhatsApp: на Pwn2Own сорвалась демонстрация эксплойта

На Pwn2Own 2025, организованном Trend Micro, участники получили более миллиона долларов. Однако событие оказалось в тени громкого инцидента — отмены демонстрации взлома WhatsApp (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России), который мог принести исследователю $1 млн.

Главный приз в размере $100 000 достался команде, продемонстрировавшей цепочку уязвимостей в устройствах QNAP Qhora-322 (роутер) и QNAP TS-453E (сетевое хранилище).

По $50 000 получили две команды за взлом Samsung Galaxy S25, а также за обнаруженные уязвимости в Synology ActiveProtect DP320 и умной колонке Sonos Era 300.

За успешные атаки на камеры Ubiquiti, принтеры Lexmark и Canon, устройства умного дома Philips Hue Bridge, Amazon Smart Plug и Home Automation Green участники получали до $40 000.

Главной интригой должен был стать 0-click для WhatsApp, подготовленный исследователем 3ugen3 из команды Team Z3. Уязвимость позволяла выполнять код на устройстве жертвы без её участия, что делает такую атаку особенно опасной.

Однако в последний момент демонстрация не состоялась. Сначала ZDI объяснила задержку «проблемами с перелётом», но позже объявила, что исследователь отозвал свою заявку, посчитав, что эксплойт «недостаточно готов для публичного показа».

«Team Z3 решила не демонстрировать уязвимость, но передаст материалы для проверки аналитикам ZDI и инженерам Meta», — сообщил Дастин Чайлдс, глава направления по осведомлённости об угрозах в ZDI.

По его словам, Meta (признана экстремистской и запрещена в России) проявила интерес к исследованию и получит отчёт через ZDI для дальнейшего анализа.

Отсутствие публичного показа вызвало разочарование и волну домыслов в киберсообществе: часть экспертов сомневается, что атака действительно работала так, как заявлялось.

Сам исследователь заявил в комментарии для SecurityWeek, что «сохраняет все детали в секрете по соглашению о неразглашении (NDA)» и что «всё останется между Meta, ZDI и мной».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru