ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

Выступая на BIS Summit 2025, первый замдиректора ФСТЭК России Виталий Лютиков сообщил, что регулятор планирует до конца года вынести на обсуждение проект стандарта привнесения аспекта безопасности в разработку ИИ-систем.

Новое методическое руководство будет представлено как дополнение к действующим нормативам по безопасной разработке программного обеспечения, в том числе ГОСТ Р 56939-2024.

У ИИ-моделей есть своя специфика с точки зрения ИБ — склонность к галлюцинациям, риск утечки конфиденциальных данных и злоупотреблений через манипуляцию промптами, возможность вмешательства в алгоритмы машинного обучения, и ее следует учитывать при создании подобных инструментов.

Приказ ФСТЭК России № 117 от 11.04.2025 об усилении защиты данных в ГИС (заработает с 1 марта будущего года) содержит раздел об ИИ-технологиях, однако изложенные в нем требования по безопасности ограничены эксплуатацией.

Вместе с тем, как и в случае с обычным софтом, не менее важно обезопасить ИИ-системы еще на стадии разработки (такой подход известен как security by design). Новая инициатива регулятора призвана восполнить этот пробел.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

МВД блокирует телефоны тех, кто сдает аккаунты в аренду

МВД России сообщило о временной блокировке номеров телефонов граждан, сдающих свои аккаунты в мессенджерах в аренду. По данным ведомства, такие учетные записи нередко используются мошенниками в составе сложных многоэтапных схем. Мера введена «в целях пресечения противоправной деятельности».

Об этом пресс-центр МВД рассказал ТАСС в ответ на запрос агентства. Техническую часть работы выполняет Управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий (УБК МВД).

По информации ведомства, мошенники задействуют арендованные аккаунты в сложных атаках, выдавая себя за представителей различных структур: правоохранительных органов, страховых компаний, управляющих организаций в сфере ЖКХ или компаний по обслуживанию домофонов.

Главная цель злоумышленников — получить доступ к аккаунтам на различных сервисах, в первую очередь на портале Госуслуг, завладеть платежными реквизитами или напрямую похитить деньги. В условиях ограничений со стороны банков преступники также могут требовать передачи ювелирных изделий или золотых слитков.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru