ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

Выступая на BIS Summit 2025, первый замдиректора ФСТЭК России Виталий Лютиков сообщил, что регулятор планирует до конца года вынести на обсуждение проект стандарта привнесения аспекта безопасности в разработку ИИ-систем.

Новое методическое руководство будет представлено как дополнение к действующим нормативам по безопасной разработке программного обеспечения, в том числе ГОСТ Р 56939-2024.

У ИИ-моделей есть своя специфика с точки зрения ИБ — склонность к галлюцинациям, риск утечки конфиденциальных данных и злоупотреблений через манипуляцию промптами, возможность вмешательства в алгоритмы машинного обучения, и ее следует учитывать при создании подобных инструментов.

Приказ ФСТЭК России № 117 от 11.04.2025 об усилении защиты данных в ГИС (заработает с 1 марта будущего года) содержит раздел об ИИ-технологиях, однако изложенные в нем требования по безопасности ограничены эксплуатацией.

Вместе с тем, как и в случае с обычным софтом, не менее важно обезопасить ИИ-системы еще на стадии разработки (такой подход известен как security by design). Новая инициатива регулятора призвана восполнить этот пробел.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Утечки из зарубежных сервисов ускорили импортозамещение в ИИ

До конца года треть российских ИТ-специалистов перейдёт на отечественные инструменты с искусственным интеллектом (ИИ). Главная причина — рост числа утечек данных из зарубежных сервисов. Согласно исследованию Yandex B2B Tech и университета ИТМО, к началу 2026 года 30% российских разработчиков будут использовать отечественные решения.

О тенденции сообщили «Известия» со ссылкой на Yandex B2B Tech. Сейчас доля российских систем составляет 17%, ещё 11% применяются в тестовом режиме и 10% разработчиков планируют перейти на них в ближайшее время.

Среди основных причин перехода на российские ИИ-инструменты называют:

  • участившиеся утечки данных в зарубежных сервисах;
  • ограниченный доступ к иностранным инструментам из России;
  • необходимость технической поддержки;
  • требования корпоративной кибербезопасности.

Как отметил руководитель платформы SourceCraft Дмитрий Иванов, 62% разработчиков в Яндексе регулярно используют SourceCraft Code Assistant для автоматизации повседневных задач. В MWS AI также применяют собственный ассистент Kodify. По словам представителей компании, на российском рынке уже есть достаточно качественные генеративные ИИ-решения, главное преимущество которых — более глубокая поддержка русского языка.

«Отечественные решения доступны напрямую, без обходных схем и риска отключения. Для бизнеса это критично: сбой в работе ИИ-инструмента, встроенного в процессы, может парализовать целое подразделение или компанию. С российскими системами такого не произойдёт — их не отключат из-за санкций, политических решений или изменений в лицензиях», — заявил главный владелец продукта Content AI Антон Хаймовский.

Крупнейший инцидент с утечкой данных произошёл в китайском сервисе Deepseek, где в открытом доступе оказался массив более чем из миллиона строк пользовательской информации. В целом количество взломов аккаунтов в нейросетевых сервисах в начале 2025 года выросло вдвое по сравнению с прошлым годом.

По словам технического директора OSMI IT Дениса Нагаева, утечки из зарубежных платформ стали сигналом для многих компаний о необходимости перехода на локальные решения. Импортозамещение помогает избежать репутационных рисков и позволяет заранее минимизировать угрозы, связанные с использованием ИИ, который во многом остаётся «чёрным ящиком».

«Нет никаких гарантий, что данные в российских нейросетях будут защищены лучше. Утечки возможны везде. Всё зависит от архитектуры системы, того, кто ею управляет, и какие меры защиты применяются», — дополнил Антон Хаймовский.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru