ФСТЭК России определилась со списком угроз для ИИ-систем

ФСТЭК России определилась со списком угроз для ИИ-систем

ФСТЭК России определилась со списком угроз для ИИ-систем

В банке данных угроз (БДУ), созданном ФСТЭК России, появился раздел о проблемах, специфичных для ИИ. Риски в отношении ИБ, связанные с качеством софта, ML-моделей и наборов обучающих данных, здесь не рассматриваются.

Угрозы нарушения конфиденциальности, целостности или доступности информации, обрабатываемой с помощью ИИ, разделены на две группы — реализуемые на этапе разработки / обучения и в ходе эксплуатации таких систем.

В инфраструктуре разработчика ИИ-систем оценки на предмет безопасности информации требуют следующие объекты:

 

Объекты, подлежащие проверке на безопасность в инфраструктуре оператора ИИ-системы:

 

Дополнительно и разработчикам, и операторам следует учитывать возможность утечки конфиденциальной информации, а также кражи, отказа либо нарушения функционирования ML-моделей.

Среди векторов возможных атак упомянуты эксплойт уязвимостей в шаблонах для ИИ, модификация промптов и конфигурации агентов, исчерпание лимита на обращения к ИИ-системе с целью вызвать отказ в обслуживании (DoS).

В комментарии для «Ведомостей» первый замдиректора ФСТЭК Виталий Лютиков пояснил, что составленный ими перечень угроз для ИИ ляжет в основу разрабатываемого стандарта по безопасной разработке ИИ-систем, который планировалась вынести на обсуждение до конца этого года.

Представленная в новом разделе БДУ детализация также поможет полагающимся на ИИ госструктурам и субъектам КИИ данных скорректировать процессы моделирования угроз к моменту вступления в силу приказа ФТЭК об усилении защиты данных в ГИС (№117, заработает с марта 2026 года).

Ужесточение требований регулятора в отношении безопасности вызвано ростом числа атак, в том числе на ИИ. В этих условиях важно учитывать не только возможности ИИ-технологий, но и сопряженные с ними риски.

Let's Encrypt может отказать МАКС в TLS-сертификате из-за санкций

У российского мессенджера МАКС назревает новая техническая проблема. На форуме сообщества Let's Encrypt развернулась дискуссия о том, может ли сервис продолжать выдавать TLS-сертификаты для официального сайта проекта. Поводом стали санкции США.

Представитель Let's Encrypt напомнил, что домен связан с компанией «Коммуникационная платформа», которая фигурирует в американских санкционных списках.

А поскольку Let's Encrypt работает под юрисдикцией США, организация обязана соблюдать соответствующие ограничения.

«Let's Encrypt находится под юрисдикцией США, поэтому не может выдавать сертификаты организациям, находящимся под санкциями», — говорится в комментарии представителя удостоверяющего центра.

Ситуация выглядит особенно любопытно на фоне того, что МАКС уже менял поставщика сертификатов. Ранее сайт использовал сертификат японского удостоверяющего центра GlobalSign, однако затем перешёл на Let's Encrypt.

Пока никаких официальных заявлений об отзыве сертификата нет. Более того, действующий сертификат сайта МАКС остаётся активным до 4 сентября. Однако сама позиция Let's Encrypt намекает, что в будущем у владельцев ресурса могут возникнуть сложности с продлением.

Если сертификат всё же будет отозван или его не удастся перевыпустить, разработчикам придётся искать альтернативный удостоверяющий центр либо переходить на российские сертификаты. В противном случае пользователи могут начать видеть предупреждения браузеров о проблемах с безопасностью соединения.

Пока сайт МАКС работает в штатном режиме. Но если международные центры сертификации окончательно закроют двери для российских проектов под санкциями, вопрос доверенных TLS-сертификатов может стать для них не менее важным, чем разработка самого сервиса.

RSS: Новости на портале Anti-Malware.ru