NIST представил новые меры для защиты ИИ-систем

NIST представил новые меры для защиты ИИ-систем

NIST представил новые меры для защиты ИИ-систем

Национальный институт стандартов и технологий США (NIST) представил инициативу по усилению кибербезопасности систем искусственного интеллекта. Ведомство выпустило концептуальный документ и план действий по разработке специальных Control Overlays для стандарта NIST SP 800-53, которые будут учитывать риски именно в сфере ИИ.

Почему это важно: существующие подходы к киберзащите часто не охватывают угрозы, характерные для ИИ — такие как инъекция промпта, отравление моделей, утечки данных через интерфейсы и манипуляции решениями алгоритмов. Новые контрольные наборы должны закрыть эти пробелы.

Что входит в инициативу:

  • отдельные меры безопасности для генеративных ИИ, предиктивных систем и мультиагентных архитектур;
  • рекомендации для разработчиков — чтобы безопасность учитывалась на всех этапах жизненного цикла ИИ, а не «прикручивалась» постфактум;
  • расширение существующего стандарта SP 800-53 и дополнение к уже принятой AI Risk Management Framework (AI RMF 1.0).

Чтобы собрать обратную связь и сделать процесс максимально открытым, NIST запустил отдельный Slack-канал «#NIST-Overlays-Securing-AI», где к обсуждению приглашают исследователей, разработчиков, администраторов и специалистов по управлению рисками. Там будут публиковаться обновления, проводиться дискуссии и приниматься предложения по финальной версии.

Инициатива NIST может стать новым ориентиром не только для США, но и для глобального рынка — именно такие стандартизированные меры помогут компаниям по всему миру подходить к безопасности ИИ более системно.

Напомним, на днях NIST выпустил рекомендации по выявлению поддельных фото в документах. Документ под названием FATE MORPH 4B (PDF) описывает, как работают видоизменённые изображения, и объясняет, какие шаги должны предпринимать организации — от паспортных столов до пограничных служб.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

64% россиян, зарабатывающих на хобби, столкнулись со взломом аккаунта

Зарабатывать на своём увлечении — мечта многих. Но вместе с ростом популярности и доходов повышается и интерес к вам со стороны злоумышленников. Об этом говорится в новом опросе «Лаборатории Касперского».

По данным исследования, 64% россиян, которые превратили своё хобби в источник заработка, сталкивались с попытками взлома аккаунтов в соцсетях. Среди тех, кто занимается увлечением просто «для души», таких 43%.

Ситуация аналогична и по другим каналам:

  • попытки взлома электронной почты — у 55% предпринимателей против 31% любителей;
  • атаки на мессенджеры — у 51% против 28%.

Эксперты объясняют: как только человек начинает активно продвигать себя — создаёт тематические страницы, набирает подписчиков, принимает заказы — он становится заметной целью для киберпреступников. А взлом аккаунта может обернуться и финансовыми потерями, и репутационными проблемами.

«Социальные сети — один из главных инструментов для продвижения своих увлечений и бизнеса, но именно они чаще всего становятся точкой атаки», — отмечает Алексей Киселёв, руководитель отдела по работе с малым и средним бизнесом в «Лаборатории Касперского».

Он советует защищать свои цифровые профили:

  • использовать сложные уникальные пароли и регулярно их менять,
  • включить двухфакторную аутентификацию,
  • установить антивирус,
  • делать резервные копии данных и ограничивать доступ к важным ресурсам.

По мере роста бизнеса, добавляет эксперт, стоит выстраивать полноценную систему кибербезопасности — так же, как строится маркетинг или бухгалтерия. Ведь чем успешнее проект, тем больше желающих на нём «заработать» нечестным способом.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru