ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

Выступая на BIS Summit 2025, первый замдиректора ФСТЭК России Виталий Лютиков сообщил, что регулятор планирует до конца года вынести на обсуждение проект стандарта привнесения аспекта безопасности в разработку ИИ-систем.

Новое методическое руководство будет представлено как дополнение к действующим нормативам по безопасной разработке программного обеспечения, в том числе ГОСТ Р 56939-2024.

У ИИ-моделей есть своя специфика с точки зрения ИБ — склонность к галлюцинациям, риск утечки конфиденциальных данных и злоупотреблений через манипуляцию промптами, возможность вмешательства в алгоритмы машинного обучения, и ее следует учитывать при создании подобных инструментов.

Приказ ФСТЭК России № 117 от 11.04.2025 об усилении защиты данных в ГИС (заработает с 1 марта будущего года) содержит раздел об ИИ-технологиях, однако изложенные в нем требования по безопасности ограничены эксплуатацией.

Вместе с тем, как и в случае с обычным софтом, не менее важно обезопасить ИИ-системы еще на стадии разработки (такой подход известен как security by design). Новая инициатива регулятора призвана восполнить этот пробел.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

K2 Cloud запускает программу баг-баунти для защиты своих облачных сервисов

K2 Cloud, входящая в К2Тех, объявила о запуске программы по поиску уязвимостей. Цель проста — сделать свои облачные сервисы прозрачными и защищёнными. Первый этап пройдёт в закрытом формате: участвовать смогут только исследователи, проверенные на платформе Standoff Bug Bounty от Positive Technologies.

Это крупнейшая российская площадка для баг-баунти, и в пилот приглашены более 100 лучших специалистов.

Подобные программы уже работают у Госуслуг, Единой биометрической системы, Ozon, Самоката, ЮMoney и других крупных сервисов. Теперь к ним присоединилась и K2 Cloud, что, по сути, говорит о зрелости компании в вопросах безопасности.

По словам Александра Луговa, руководителя группы по обеспечению ИБ облачной платформы K2 Cloud, компания регулярно проводит пентесты, а теперь решила подключить внешних экспертов:

«Мы хотим, чтобы защита облака была максимально живой и эффективной. В баг-баунти вознаграждения напрямую зависят от найденных уязвимостей, что мотивирует исследователей искать глубже».

На старте максимальная выплата за найденную уязвимость составит 300 тысяч рублей. Размер вознаграждения зависит от серьёзности проблемы, а в будущем суммы обещают увеличить. Особый интерес представляют уязвимости, которые могут реально повлиять на инфраструктуру: RCE, SQL-инъекции, обход авторизации, SSRF и ошибки бизнес-логики. Проверять будут ключевые сервисы платформы, включая веб-консоль управления.

В K2 Cloud также ссылаются на исследование К2 Кибербезопасность: 64% специалистов считают главной угрозой 2025 года вирусы-шифровальщики, 28% — целевые APT-атаки, и 8% — DDoS. Компания уверена, что вовлечение баг-хантеров поможет закрыть слабые места до того, как ими воспользуются злоумышленники.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru