ФСТЭК России определилась со списком угроз для ИИ-систем

ФСТЭК России определилась со списком угроз для ИИ-систем

ФСТЭК России определилась со списком угроз для ИИ-систем

В банке данных угроз (БДУ), созданном ФСТЭК России, появился раздел о проблемах, специфичных для ИИ. Риски в отношении ИБ, связанные с качеством софта, ML-моделей и наборов обучающих данных, здесь не рассматриваются.

Угрозы нарушения конфиденциальности, целостности или доступности информации, обрабатываемой с помощью ИИ, разделены на две группы — реализуемые на этапе разработки / обучения и в ходе эксплуатации таких систем.

В инфраструктуре разработчика ИИ-систем оценки на предмет безопасности информации требуют следующие объекты:

 

Объекты, подлежащие проверке на безопасность в инфраструктуре оператора ИИ-системы:

 

Дополнительно и разработчикам, и операторам следует учитывать возможность утечки конфиденциальной информации, а также кражи, отказа либо нарушения функционирования ML-моделей.

Среди векторов возможных атак упомянуты эксплойт уязвимостей в шаблонах для ИИ, модификация промптов и конфигурации агентов, исчерпание лимита на обращения к ИИ-системе с целью вызвать отказ в обслуживании (DoS).

В комментарии для «Ведомостей» первый замдиректора ФСТЭК Виталий Лютиков пояснил, что составленный ими перечень угроз для ИИ ляжет в основу разрабатываемого стандарта по безопасной разработке ИИ-систем, который планировалась вынести на обсуждение до конца этого года.

Представленная в новом разделе БДУ детализация также поможет полагающимся на ИИ госструктурам и субъектам КИИ данных скорректировать процессы моделирования угроз к моменту вступления в силу приказа ФТЭК об усилении защиты данных в ГИС (№117, заработает с марта 2026 года).

Ужесточение требований регулятора в отношении безопасности вызвано ростом числа атак, в том числе на ИИ. В этих условиях важно учитывать не только возможности ИИ-технологий, но и сопряженные с ними риски.

Android 17 начнёт тормозить и закрывать прожорливые приложения

Google расширяет в Android 17 систему индивидуальных лимитов оперативной памяти для приложений. Если программа выйдет за установленный ей бюджет, система сначала снизит её производительность, а при дальнейшем росте потребления просто завершит процесс.

Механизм дебютировал на смартфонах Pixel, но в течение ближайшего года его начнут внедрять другие производители. Ограничения появятся на устройствах с объёмом памяти от 4 до более чем 16 ГБ, сообщила Google.

На первом этапе Android принудительно переместит часть данных провинившегося приложения в zRAM — сжатую область оперативной памяти. Это позволит программе продолжить работу, но за комфорт придётся заплатить процессорным временем: данные нужно постоянно сжимать и распаковывать, поэтому интерфейс может начать дёргаться и задумываться над жизнью.

Если приложение продолжит поглощать память, система его закроет. Для пользователя это должно означать меньше ситуаций, когда одна небрежно написанная программа превращает весь смартфон в неторопливый калькулятор.

Особенно полезным механизм станет на недорогих устройствах с небольшим объёмом ОЗУ. Однако под раздачу могут попасть игры, мультимедийные редакторы и локальные ИИ-приложения, которым действительно требуется много памяти. Если разработчики не проведут оптимизацию, такие программы будут тормозить или внезапно завершаться.

Google уже добавила в Android Vitals и Firebase Crashlytics инструменты для поиска утечек памяти, отслеживания аварий и срабатываний нового ограничителя. Разработчикам предлагают заранее проверить свои приложения, пока пользователи не начали делать это вместо них единицами в магазине.

Причина ужесточения проста: смартфоны не спешат наращивать объём ОЗУ из-за подорожания памяти, а требования приложений продолжают расти.

RSS: Новости на портале Anti-Malware.ru