ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

Выступая на BIS Summit 2025, первый замдиректора ФСТЭК России Виталий Лютиков сообщил, что регулятор планирует до конца года вынести на обсуждение проект стандарта привнесения аспекта безопасности в разработку ИИ-систем.

Новое методическое руководство будет представлено как дополнение к действующим нормативам по безопасной разработке программного обеспечения, в том числе ГОСТ Р 56939-2024.

У ИИ-моделей есть своя специфика с точки зрения ИБ — склонность к галлюцинациям, риск утечки конфиденциальных данных и злоупотреблений через манипуляцию промптами, возможность вмешательства в алгоритмы машинного обучения, и ее следует учитывать при создании подобных инструментов.

Приказ ФСТЭК России № 117 от 11.04.2025 об усилении защиты данных в ГИС (заработает с 1 марта будущего года) содержит раздел об ИИ-технологиях, однако изложенные в нем требования по безопасности ограничены эксплуатацией.

Вместе с тем, как и в случае с обычным софтом, не менее важно обезопасить ИИ-системы еще на стадии разработки (такой подход известен как security by design). Новая инициатива регулятора призвана восполнить этот пробел.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

8 октября в Москве пройдёт флагманская конференция Selectel Tech Day 2025

Selectel, крупнейший независимый провайдер сервисов IT-инфраструктуры в России, проведет флагманскую конференцию Selectel Tech Day 8 октября 2025 года в Цифровом деловом пространстве в Москве.

Ведущие эксперты IT-отрасли расскажут о последних трендах в построении надежной и безопасной IT-инфраструктуры, поделятся опытом развития облачных сервисов и современными практиками защиты данных, а также обсудят актуальные подходы, которые помогают быстрее тестировать, запускать и масштабировать проекты.

 

В программе:

  • Кейсы построения гибридной IT-инфраструктуры и частных облаков;
  • Тренды в области ML и подбор инфраструктуры для AI-проектов;
  • Информационная безопасность и DevSecOps;
  • Развитие PaaS — Kubernetes, S3 и другие сервисы.

На площадке будут работать 16 технологических стендов и интерактивных зон для знакомства с продуктами Selectel и партнеров. Также будет организована онлайн-трансляция мероприятия.

Участие бесплатное, необходима регистрация на сайте конференции. Присоединяйтесь, чтобы получить актуальные знания, обменяться опытом с экспертами отрасли и быть в курсе ключевых трендов IT-инфраструктуры.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru