ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

Выступая на BIS Summit 2025, первый замдиректора ФСТЭК России Виталий Лютиков сообщил, что регулятор планирует до конца года вынести на обсуждение проект стандарта привнесения аспекта безопасности в разработку ИИ-систем.

Новое методическое руководство будет представлено как дополнение к действующим нормативам по безопасной разработке программного обеспечения, в том числе ГОСТ Р 56939-2024.

У ИИ-моделей есть своя специфика с точки зрения ИБ — склонность к галлюцинациям, риск утечки конфиденциальных данных и злоупотреблений через манипуляцию промптами, возможность вмешательства в алгоритмы машинного обучения, и ее следует учитывать при создании подобных инструментов.

Приказ ФСТЭК России № 117 от 11.04.2025 об усилении защиты данных в ГИС (заработает с 1 марта будущего года) содержит раздел об ИИ-технологиях, однако изложенные в нем требования по безопасности ограничены эксплуатацией.

Вместе с тем, как и в случае с обычным софтом, не менее важно обезопасить ИИ-системы еще на стадии разработки (такой подход известен как security by design). Новая инициатива регулятора призвана восполнить этот пробел.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Крайон превратил HScan из сканера в платформу управления уязвимостями

Компания «Крайон» выпустила крупное обновление HScan. Теперь это не просто сканер, а полноценная система управления уязвимостями, которая помогает автоматизировать процессы реагирования и приоритизировать задачи.

Главные изменения:

  • появилась система политик для автоматизации реагирования: уведомления и задачи на устранение уязвимостей формируются и назначаются автоматически;
  • внедрено ранжирование активов по критичности, чтобы ресурсы направлялись в первую очередь на защиту наиболее важных систем;
  • реализована иерархическая структура департаментов, упрощающая распределение ответственности;
  • улучшен процесс управления задачами: добавлены контроль сроков, прозрачная история действий и отчётность;
  • модернизированы уведомления: теперь они приходят по разным каналам — в сервисе, по почте или в мессенджере;
  • централизованное управление настройками упростило администрирование;
  • доработан интерфейс и повышена стабильность работы.

 

По словам представителей компании, обновление делает HScan инструментом не только для поиска уязвимостей, но и для выстраивания процессов управления ими в организациях с разной ИТ-инфраструктурой.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru