ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

Выступая на BIS Summit 2025, первый замдиректора ФСТЭК России Виталий Лютиков сообщил, что регулятор планирует до конца года вынести на обсуждение проект стандарта привнесения аспекта безопасности в разработку ИИ-систем.

Новое методическое руководство будет представлено как дополнение к действующим нормативам по безопасной разработке программного обеспечения, в том числе ГОСТ Р 56939-2024.

У ИИ-моделей есть своя специфика с точки зрения ИБ — склонность к галлюцинациям, риск утечки конфиденциальных данных и злоупотреблений через манипуляцию промптами, возможность вмешательства в алгоритмы машинного обучения, и ее следует учитывать при создании подобных инструментов.

Приказ ФСТЭК России № 117 от 11.04.2025 об усилении защиты данных в ГИС (заработает с 1 марта будущего года) содержит раздел об ИИ-технологиях, однако изложенные в нем требования по безопасности ограничены эксплуатацией.

Вместе с тем, как и в случае с обычным софтом, не менее важно обезопасить ИИ-системы еще на стадии разработки (такой подход известен как security by design). Новая инициатива регулятора призвана восполнить этот пробел.

У вашей двери подозрительный человек: мошенники маскируют атаку под помощь

Мошенники начали рассылать в мессенджерах вредоносные программы под видом срочных сообщений от соседей. Сценарий рассчитан на тревогу и любопытство: человеку предлагают немедленно посмотреть видео с подозрительным незнакомцем у его квартиры.

Аферист представляется соседом и сообщает, что рядом с жильём потенциальной жертвы якобы постоянно крутится неизвестный человек.

Затем прикрепляет видеозапись и спрашивает: «Вы его знаете?» На самом деле никакого соседского расследования нет. Под видом видео распространяется вредоносная программа.

После открытия файла она устанавливается на устройство и может предоставить злоумышленникам удалённый доступ к аккаунтам и личным данным. В некоторых случаях под угрозой оказываются и банковские приложения.

Схема работает за счёт простой реакции: если у двери заметили подозрительного человека, разбираться в расширениях файлов и проверять отправителя хочется в последнюю очередь. На это мошенники и рассчитывают — сначала пугают, затем подсовывают доказательство.

Получив подобное сообщение, не стоит открывать вложение, даже если отправитель знает адрес или представляется знакомым соседом. Лучше связаться с человеком другим способом или проверить информацию через домовой чат. Настоящий сосед подождёт звонка.

RSS: Новости на портале Anti-Malware.ru