ФСТЭК России определилась со списком угроз для ИИ-систем

ФСТЭК России определилась со списком угроз для ИИ-систем

ФСТЭК России определилась со списком угроз для ИИ-систем

В банке данных угроз (БДУ), созданном ФСТЭК России, появился раздел о проблемах, специфичных для ИИ. Риски в отношении ИБ, связанные с качеством софта, ML-моделей и наборов обучающих данных, здесь не рассматриваются.

Угрозы нарушения конфиденциальности, целостности или доступности информации, обрабатываемой с помощью ИИ, разделены на две группы — реализуемые на этапе разработки / обучения и в ходе эксплуатации таких систем.

В инфраструктуре разработчика ИИ-систем оценки на предмет безопасности информации требуют следующие объекты:

 

Объекты, подлежащие проверке на безопасность в инфраструктуре оператора ИИ-системы:

 

Дополнительно и разработчикам, и операторам следует учитывать возможность утечки конфиденциальной информации, а также кражи, отказа либо нарушения функционирования ML-моделей.

Среди векторов возможных атак упомянуты эксплойт уязвимостей в шаблонах для ИИ, модификация промптов и конфигурации агентов, исчерпание лимита на обращения к ИИ-системе с целью вызвать отказ в обслуживании (DoS).

В комментарии для «Ведомостей» первый замдиректора ФСТЭК Виталий Лютиков пояснил, что составленный ими перечень угроз для ИИ ляжет в основу разрабатываемого стандарта по безопасной разработке ИИ-систем, который планировалась вынести на обсуждение до конца этого года.

Представленная в новом разделе БДУ детализация также поможет полагающимся на ИИ госструктурам и субъектам КИИ данных скорректировать процессы моделирования угроз к моменту вступления в силу приказа ФТЭК об усилении защиты данных в ГИС (№117, заработает с марта 2026 года).

Ужесточение требований регулятора в отношении безопасности вызвано ростом числа атак, в том числе на ИИ. В этих условиях важно учитывать не только возможности ИИ-технологий, но и сопряженные с ними риски.

Российские учёные в 10 раз улучшили схемы для квантовых компьютеров

Специалисты МГТУ имени Баумана и ВНИИА разработали технологию производства сверхпроводниковых интегральных схем на основе тантала. По данным университета, она позволяет более чем в десять раз улучшить качество компонентов для квантовых сопроцессоров.

Вместо традиционного алюминия исследователи использовали тантал. Этот металл лучше переносит обработку кислотами и другими агрессивными веществами, поэтому поверхность можно тщательнее очищать от оксидов и атомарных загрязнений.

Кроме того, естественный оксид тантала содержит меньше дефектов, способных разрушать хрупкое квантовое состояние.

Технологию испытали на микроволновых резонаторах. Их внутренняя добротность в однофотонном режиме превысила 10 млн. Чем выше этот показатель, тем меньше потери и дольше компонент способен сохранять квантовую информацию. Разработчики утверждают, что такие результаты входят в число лучших в мире.

 

Главной проблемой оказалось получение высокочистого альфа-тантала. Плёнки металла могут формироваться в альфа- и бета-фазах, но для высококачественных сверхпроводниковых схем нужна именно первая. Чтобы разобраться в механизме роста материала, команда провела более тысячи экспериментов и изучила десятки серийно изготовленных пластин с помощью просвечивающей микроскопии атомарного разрешения.

Исследователи выяснили, что рост альфа-тантала на кремнии начинается после формирования слоя бета-тантала толщиной 7-10 нм. Созданные резонаторы показали добротность свыше 10 млн, подтверждает научная публикация, вышедшая в Applied Physics Reviews.

Первые поставки квантовых сопроцессоров на новой платформе уже законтрактованы на осень 2026 года.

Квантовый компьютер от этого завтра на столе не появится. Но тантал хотя бы помогает кубитам подольше не забывать, что они квантовые.

RSS: Новости на портале Anti-Malware.ru