ФСТЭК России определилась со списком угроз для ИИ-систем

ФСТЭК России определилась со списком угроз для ИИ-систем

ФСТЭК России определилась со списком угроз для ИИ-систем

В банке данных угроз (БДУ), созданном ФСТЭК России, появился раздел о проблемах, специфичных для ИИ. Риски в отношении ИБ, связанные с качеством софта, ML-моделей и наборов обучающих данных, здесь не рассматриваются.

Угрозы нарушения конфиденциальности, целостности или доступности информации, обрабатываемой с помощью ИИ, разделены на две группы — реализуемые на этапе разработки / обучения и в ходе эксплуатации таких систем.

В инфраструктуре разработчика ИИ-систем оценки на предмет безопасности информации требуют следующие объекты:

 

Объекты, подлежащие проверке на безопасность в инфраструктуре оператора ИИ-системы:

 

Дополнительно и разработчикам, и операторам следует учитывать возможность утечки конфиденциальной информации, а также кражи, отказа либо нарушения функционирования ML-моделей.

Среди векторов возможных атак упомянуты эксплойт уязвимостей в шаблонах для ИИ, модификация промптов и конфигурации агентов, исчерпание лимита на обращения к ИИ-системе с целью вызвать отказ в обслуживании (DoS).

В комментарии для «Ведомостей» первый замдиректора ФСТЭК Виталий Лютиков пояснил, что составленный ими перечень угроз для ИИ ляжет в основу разрабатываемого стандарта по безопасной разработке ИИ-систем, который планировалась вынести на обсуждение до конца этого года.

Представленная в новом разделе БДУ детализация также поможет полагающимся на ИИ госструктурам и субъектам КИИ данных скорректировать процессы моделирования угроз к моменту вступления в силу приказа ФТЭК об усилении защиты данных в ГИС (№117, заработает с марта 2026 года).

Ужесточение требований регулятора в отношении безопасности вызвано ростом числа атак, в том числе на ИИ. В этих условиях важно учитывать не только возможности ИИ-технологий, но и сопряженные с ними риски.

Памфилова призвала россиян не роптать из-за отключений интернета

Если в сентябре интернет снова начнёт пропадать, удивляться не стоит. Глава ЦИК Элла Памфилова прямо заявила, что в период выборов в регионах возможны ограничения интернета и других видов связи ради безопасности. На заседании Центризбиркома Памфилова призвала граждан отнестись к таким мерам спокойно и не роптать.

По её словам, нужно выбирать между временными неудобствами и безопасностью людей.

«Давайте поставим на чашу весов: ты не смог зайти в интернет или спасённые жизни людей», — заявила председатель ЦИК.

При этом глава комиссии заверила, что система дистанционного электронного голосования готова работать даже в условиях ограничений связи. На избирательных участках планируется развернуть дополнительные точки Wi-Fi, чтобы обеспечить работу необходимых сервисов.

Тема отключений интернета в России остаётся одной из самых обсуждаемых в последние месяцы. Во многих регионах мобильная связь и доступ в Сеть периодически ограничиваются на фоне угроз атак беспилотников.

Однако на практике такие меры нередко затрагивают не только потенциально опасные сервисы. Жители разных регионов уже жаловались, что при ограничениях перестают открываться даже ресурсы из так называемого белого списка. С подобными проблемами сталкивались как в приграничных областях, так и в Москве.

На этом фоне в начале июня Владимир Путин поручил правительству и ФСБ обеспечить бесперебойную работу ключевых интернет-сервисов даже во время ограничений. На решение этой задачи был отведён месяц.

Выборы депутатов Госдумы девятого созыва пройдут с 18 по 20 сентября 2026 года. Судя по заявлениям ЦИК, гражданам стоит заранее готовиться к тому, что в эти дни стабильный мобильный интернет может оказаться не самым гарантированным ресурсом.

RSS: Новости на портале Anti-Malware.ru