ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

Выступая на BIS Summit 2025, первый замдиректора ФСТЭК России Виталий Лютиков сообщил, что регулятор планирует до конца года вынести на обсуждение проект стандарта привнесения аспекта безопасности в разработку ИИ-систем.

Новое методическое руководство будет представлено как дополнение к действующим нормативам по безопасной разработке программного обеспечения, в том числе ГОСТ Р 56939-2024.

У ИИ-моделей есть своя специфика с точки зрения ИБ — склонность к галлюцинациям, риск утечки конфиденциальных данных и злоупотреблений через манипуляцию промптами, возможность вмешательства в алгоритмы машинного обучения, и ее следует учитывать при создании подобных инструментов.

Приказ ФСТЭК России № 117 от 11.04.2025 об усилении защиты данных в ГИС (заработает с 1 марта будущего года) содержит раздел об ИИ-технологиях, однако изложенные в нем требования по безопасности ограничены эксплуатацией.

Вместе с тем, как и в случае с обычным софтом, не менее важно обезопасить ИИ-системы еще на стадии разработки (такой подход известен как security by design). Новая инициатива регулятора призвана восполнить этот пробел.

PT Data Security 1.5 научилась искать уязвимости в базах данных

Компания Positive Technologies представила версию 1.5 платформы PT Data Security, предназначенной для инвентаризации, классификации и контроля безопасности данных. Главное нововведение релиза — появление инструментов для поиска известных уязвимостей, ошибок конфигурации и небезопасных настроек в хранилищах данных.

Платформа теперь может выявлять избыточные привилегии пользователей и другие факторы, которые потенциально повышают риск компрометации информации.

Разработчики отмечают, что это позволяет не только находить критически важные данные, но и оценивать уровень защищённости самих систем хранения. Например, специалисты по ИБ смогут быстрее определить, какие проблемы стоит устранять в первую очередь, если речь идёт о базах с персональными, финансовыми или другими чувствительными сведениями.

В новой версии также появилась поддержка СУБД Oracle. Для таких систем PT Data Security может проводить инвентаризацию данных, их классификацию и анализировать риски, связанные с расширенными правами доступа к критически важным таблицам. Поддержка Oracle может оказаться востребованной в крупных организациях, где эта СУБД по-прежнему широко используется.

Параллельно расширились возможности работы с PostgreSQL. Платформа получила функции анализа конфигурации и поиска слабых мест для версий PostgreSQL от 9.0 до актуальной ветки 18.

Среди других изменений — поддержка Astra Linux 1.8, которая активно используется в государственных структурах и крупных компаниях, а также обновлённая система настройки правил и политик безопасности. По словам разработчиков, она должна упростить адаптацию платформы под внутренние процессы и требования конкретной организации.

В Positive Technologies заявили, что версия 1.5 полностью соответствует плану развития продукта на первое полугодие 2026 года. Следующий этап развития платформы компания планирует формировать на основе запросов клиентов и тенденций рынка защиты данных.

RSS: Новости на портале Anti-Malware.ru