ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

Выступая на BIS Summit 2025, первый замдиректора ФСТЭК России Виталий Лютиков сообщил, что регулятор планирует до конца года вынести на обсуждение проект стандарта привнесения аспекта безопасности в разработку ИИ-систем.

Новое методическое руководство будет представлено как дополнение к действующим нормативам по безопасной разработке программного обеспечения, в том числе ГОСТ Р 56939-2024.

У ИИ-моделей есть своя специфика с точки зрения ИБ — склонность к галлюцинациям, риск утечки конфиденциальных данных и злоупотреблений через манипуляцию промптами, возможность вмешательства в алгоритмы машинного обучения, и ее следует учитывать при создании подобных инструментов.

Приказ ФСТЭК России № 117 от 11.04.2025 об усилении защиты данных в ГИС (заработает с 1 марта будущего года) содержит раздел об ИИ-технологиях, однако изложенные в нем требования по безопасности ограничены эксплуатацией.

Вместе с тем, как и в случае с обычным софтом, не менее важно обезопасить ИИ-системы еще на стадии разработки (такой подход известен как security by design). Новая инициатива регулятора призвана восполнить этот пробел.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Мошенники убедили пенсионерку купить для них золотые слитки

В Санкт-Петербурге мошенники обманом заставили 75-летнюю пенсионерку из Купчино купить и передать им золотые слитки на сумму более 4,4 млн рублей. Как сообщили в региональном главке МВД, женщина обратилась в полицию Фрунзенского района и заявила, что стала жертвой аферы.

Об инциденте сообщило РИА Новости со ссылкой на МВД. Под предлогом «декларирования имущества» у пожилой женщины похитили сбережения.

«Неизвестные в телефонных разговорах сначала вынудили ее снять деньги со счета в банке, однако после отказа банка провести операцию убедили оформить доверенность сроком на 10 лет на незнакомую женщину. 12 сентября пенсионерка вместе с ней на такси приехала в дополнительный офис банка на Ленинском проспекте, где приобрела золотые слитки на сумму 4 417 125 рублей и передала их этой незнакомке», — говорится в сообщении УМВД России по Санкт-Петербургу и Ленинградской области.

По факту возбуждено уголовное дело по статье 159 ч. 4 УК РФ (мошенничество в особо крупном размере). Полиция ведет расследование.

Напомним, в конце марта Госдума приняла пакет мер против телефонного и финансового мошенничества, включающий новые ограничения на переводы, которые кажутся банкам подозрительными. Тогда же был запущен пилот единой антифрод-платформы банков и операторов связи.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru