ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

Выступая на BIS Summit 2025, первый замдиректора ФСТЭК России Виталий Лютиков сообщил, что регулятор планирует до конца года вынести на обсуждение проект стандарта привнесения аспекта безопасности в разработку ИИ-систем.

Новое методическое руководство будет представлено как дополнение к действующим нормативам по безопасной разработке программного обеспечения, в том числе ГОСТ Р 56939-2024.

У ИИ-моделей есть своя специфика с точки зрения ИБ — склонность к галлюцинациям, риск утечки конфиденциальных данных и злоупотреблений через манипуляцию промптами, возможность вмешательства в алгоритмы машинного обучения, и ее следует учитывать при создании подобных инструментов.

Приказ ФСТЭК России № 117 от 11.04.2025 об усилении защиты данных в ГИС (заработает с 1 марта будущего года) содержит раздел об ИИ-технологиях, однако изложенные в нем требования по безопасности ограничены эксплуатацией.

Вместе с тем, как и в случае с обычным софтом, не менее важно обезопасить ИИ-системы еще на стадии разработки (такой подход известен как security by design). Новая инициатива регулятора призвана восполнить этот пробел.

В WhatsApp появился режим защиты от шпионских атак

Meta (корпорация признана в России экстремистской и запрещена) добавила в WhatsApp новый режим повышенной защиты — Strict Account Settings. Он предназначен для пользователей, которые могут быть интересны злоумышленникам по роду своей деятельности. В первую очередь речь идёт о журналистах, общественных деятелях, активистах и пр.

По сути, это «режим изоляции» по аналогии с Lockdown Mode в iOS или Advanced Protection в Android. Идея простая: часть удобств приносится в жертву безопасности, зато резко снижается риск атак с использованием шпионских инструментов.

После включения Strict Account Settings WhatsApp автоматически переводит ряд параметров в самые жёсткие положения. Приложение начинает блокировать вложения и медиафайлы от незнакомых отправителей, заглушает звонки от людей вне списка контактов и ограничивает другие функции, которые потенциально могут быть использованы для атаки. В Meta подчёркивают, что всё это включается буквально «в несколько нажатий».

Найти новую опцию можно по пути Настройки Конфиденциальность Расширенные. Выкатывать её будут постепенно — в течение ближайших недель.

 

Параллельно Meta рассказала и о менее заметных, но не менее важных изменениях «под капотом». Компания переводит обработку медиа в WhatsApp на код, написанный на Rust — языке программирования, который считается гораздо более безопасным с точки зрения работы с памятью.

Новая кросс-платформенная библиотека для обмена медиа получила название wamedia. Она отвечает за обработку фото, видео и других вложений и должна существенно усложнить жизнь шпионским инструментам, которые часто эксплуатируют ошибки в управлении памятью.

RSS: Новости на портале Anti-Malware.ru