ФСТЭК России определилась со списком угроз для ИИ-систем

ФСТЭК России определилась со списком угроз для ИИ-систем

ФСТЭК России определилась со списком угроз для ИИ-систем

В банке данных угроз (БДУ), созданном ФСТЭК России, появился раздел о проблемах, специфичных для ИИ. Риски в отношении ИБ, связанные с качеством софта, ML-моделей и наборов обучающих данных, здесь не рассматриваются.

Угрозы нарушения конфиденциальности, целостности или доступности информации, обрабатываемой с помощью ИИ, разделены на две группы — реализуемые на этапе разработки / обучения и в ходе эксплуатации таких систем.

В инфраструктуре разработчика ИИ-систем оценки на предмет безопасности информации требуют следующие объекты:

 

Объекты, подлежащие проверке на безопасность в инфраструктуре оператора ИИ-системы:

 

Дополнительно и разработчикам, и операторам следует учитывать возможность утечки конфиденциальной информации, а также кражи, отказа либо нарушения функционирования ML-моделей.

Среди векторов возможных атак упомянуты эксплойт уязвимостей в шаблонах для ИИ, модификация промптов и конфигурации агентов, исчерпание лимита на обращения к ИИ-системе с целью вызвать отказ в обслуживании (DoS).

В комментарии для «Ведомостей» первый замдиректора ФСТЭК Виталий Лютиков пояснил, что составленный ими перечень угроз для ИИ ляжет в основу разрабатываемого стандарта по безопасной разработке ИИ-систем, который планировалась вынести на обсуждение до конца этого года.

Представленная в новом разделе БДУ детализация также поможет полагающимся на ИИ госструктурам и субъектам КИИ данных скорректировать процессы моделирования угроз к моменту вступления в силу приказа ФТЭК об усилении защиты данных в ГИС (№117, заработает с марта 2026 года).

Ужесточение требований регулятора в отношении безопасности вызвано ростом числа атак, в том числе на ИИ. В этих условиях важно учитывать не только возможности ИИ-технологий, но и сопряженные с ними риски.

WhatsApp обвинил власти России в попытке лишить пользователей приватности

WhatsApp (принадлежит Meta, признанной экстремистской и запрещенной в России) публично раскритиковал действия российских властей, заявив, что ограничения работы мессенджера фактически лишают более 100 млн россиян права на приватное общение — причём накануне праздничного сезона.

Заявление компании передаёт Reuters. Оно прозвучало после очередного предупреждения Роскомнадзора: регулятор вновь дал понять, что WhatsApp может быть полностью заблокирован, если сервис не приведёт свою работу в соответствие с российским законодательством.

В Роскомнадзоре утверждают, что мессенджер систематически нарушает закон:

«WhatsApp используется для организации террористических актов, вербовки их исполнителей, мошенничества и других преступлений», — сообщили в ведомстве.

Регулятор подтвердил, что уже принимает меры по поэтапному ограничению сервиса. Во вторник пользователи по всей стране начали массово жаловаться на перебои в работе WhatsApp — замедление и недоступность функций зафиксировали и сервисы мониторинга.

В компании с такой позицией категорически не согласны. Представитель WhatsApp заявил, что речь идёт не просто о технических ограничениях, а о фундаментальном праве на конфиденциальную связь:

«Ограничивая доступ к WhatsApp, российское правительство пытается лишить более 100 миллионов человек возможности использовать конфиденциальное сквозное шифрование», — отметили в компании.

В WhatsApp подчеркнули, что мессенджер давно стал частью повседневной жизни россиян — от родительских чатов и рабочих групп до общения с родственниками и соседями в разных регионах страны. По мнению компании, вытеснение пользователей в менее защищённые и «государственные» приложения может привести лишь к снижению уровня безопасности.

Ограничения против WhatsApp — часть более широкой политики. Ещё в августе Россия начала ограничивать отдельные звонки в WhatsApp и Telegram, обвиняя иностранные платформы в отказе сотрудничать с правоохранительными органами по делам о мошенничестве и терроризме.

Параллельно власти активно продвигают государственный мессенджер MAX, который объединяет коммуникации с доступом к различным госуслугам. Критики считают, что приложение может использоваться для слежки за пользователями, однако власти эти обвинения отвергают и заявляют, что MAX создаётся «для упрощения и улучшения повседневной жизни граждан».

RSS: Новости на портале Anti-Malware.ru