ФСТЭК России определилась со списком угроз для ИИ-систем

ФСТЭК России определилась со списком угроз для ИИ-систем

ФСТЭК России определилась со списком угроз для ИИ-систем

В банке данных угроз (БДУ), созданном ФСТЭК России, появился раздел о проблемах, специфичных для ИИ. Риски в отношении ИБ, связанные с качеством софта, ML-моделей и наборов обучающих данных, здесь не рассматриваются.

Угрозы нарушения конфиденциальности, целостности или доступности информации, обрабатываемой с помощью ИИ, разделены на две группы — реализуемые на этапе разработки / обучения и в ходе эксплуатации таких систем.

В инфраструктуре разработчика ИИ-систем оценки на предмет безопасности информации требуют следующие объекты:

 

Объекты, подлежащие проверке на безопасность в инфраструктуре оператора ИИ-системы:

 

Дополнительно и разработчикам, и операторам следует учитывать возможность утечки конфиденциальной информации, а также кражи, отказа либо нарушения функционирования ML-моделей.

Среди векторов возможных атак упомянуты эксплойт уязвимостей в шаблонах для ИИ, модификация промптов и конфигурации агентов, исчерпание лимита на обращения к ИИ-системе с целью вызвать отказ в обслуживании (DoS).

В комментарии для «Ведомостей» первый замдиректора ФСТЭК Виталий Лютиков пояснил, что составленный ими перечень угроз для ИИ ляжет в основу разрабатываемого стандарта по безопасной разработке ИИ-систем, который планировалась вынести на обсуждение до конца этого года.

Представленная в новом разделе БДУ детализация также поможет полагающимся на ИИ госструктурам и субъектам КИИ данных скорректировать процессы моделирования угроз к моменту вступления в силу приказа ФТЭК об усилении защиты данных в ГИС (№117, заработает с марта 2026 года).

Ужесточение требований регулятора в отношении безопасности вызвано ростом числа атак, в том числе на ИИ. В этих условиях важно учитывать не только возможности ИИ-технологий, но и сопряженные с ними риски.

В России впервые оштрафовали за оскорбление в личном голосовом сообщении

Один из районных судов Москвы оштрафовал жительницу столицы за оскорбление, высказанное в голосовом сообщении. Это стало первым зафиксированным случаем, когда наказание было вынесено за распространение оскорблений в личной переписке, а не в публичном чате. Суд квалифицировал действия ответчицы по статье 5.61 КоАП РФ «Оскорбление» и назначил штраф в размере 3 тыс. рублей.

О решении суда по делу об оскорблении в голосовом сообщении, отправленном через мессенджер, 12 января сообщило РИА Новости. Поводом для разбирательства стало обращение потерпевшей в прокуратуру. В числе доказательств к жалобе был приложен, в частности, «акт прослушивания аудиозаписи».

Ранее аналогичные решения уже выносились, однако они касались голосовых сообщений с оскорблениями, размещённых в публичных чатах. Так, житель Марий Эл был оштрафован на 5 тыс. рублей за оскорбление матери одноклассника своего сына в классном чате. При этом, как обратили внимание «Известия», суд квалифицировал высказывание как публичное оскорбление и назначил более строгое наказание.

В то же время в судебной практике встречались и случаи успешного обжалования подобных решений. Так, Советский районный суд Красноярска отменил постановление мирового судьи по делу об оскорблении в дачном чате. Основанием стало отсутствие лингвистической экспертизы: мировой судья исходил исключительно из «восприятия потерпевшего».

«При проведении экспертизы для лингвиста нет разницы между устной и письменной речью в рамках таких дел. Фразы и смайлы всегда анализируются в контексте: учитывается ситуация общения, участники, их социальный статус и роли. Например, при оскорблении представителя власти, полицейского или судьи может сразу наступать уголовная ответственность», — отметила старший эксперт-психолог и лингвист Центра специальных исследований и экспертиз Полина Курданова. По её словам, экспертизы назначаются судом практически всегда, если возникают сомнения в квалификации высказываний.

Управляющий партнёр AVG Legal Алексей Гавришев в комментарии для «Известий» отметил, что в самом решении суда нет принципиальной новизны. «Новизна здесь скорее в общественном восприятии, чем в праве. Оскорбление в мессенджере давно квалифицируется так же, как и в офлайне: это всё то же унижение чести и достоинства, выраженное в неприличной форме. Просто канал коммуникации стал цифровым, а судебная практика по таким делам существует уже не первый год», — подчеркнул он.

По мнению Гавришева, подобная практика будет только расширяться, поскольку люди всё чаще «переносят конфликты в цифровую среду, а суды вынуждены идти за ними». В целом, как отмечают опрошенные «Известиями» эксперты, оскорбления в онлайне встречаются даже чаще, чем в офлайне. Это подтверждают и данные исследования Института статистических исследований и экономики знаний НИУ ВШЭ за 2023 год: с различными формами онлайн-агрессии сталкивались 29% пользователей социальных сетей.

Основатель юридического бутика ContractCreation by Kostromin Евгений Костромин назвал это дело показательным прежде всего из-за используемого доказательства — акта прослушивания голосового сообщения. При этом он напомнил, что на специфику рассмотрения дел об оскорблениях в онлайн-пространстве Президиум Верховного суда обращал внимание ещё в 2021 году.

RSS: Новости на портале Anti-Malware.ru