ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

Выступая на BIS Summit 2025, первый замдиректора ФСТЭК России Виталий Лютиков сообщил, что регулятор планирует до конца года вынести на обсуждение проект стандарта привнесения аспекта безопасности в разработку ИИ-систем.

Новое методическое руководство будет представлено как дополнение к действующим нормативам по безопасной разработке программного обеспечения, в том числе ГОСТ Р 56939-2024.

У ИИ-моделей есть своя специфика с точки зрения ИБ — склонность к галлюцинациям, риск утечки конфиденциальных данных и злоупотреблений через манипуляцию промптами, возможность вмешательства в алгоритмы машинного обучения, и ее следует учитывать при создании подобных инструментов.

Приказ ФСТЭК России № 117 от 11.04.2025 об усилении защиты данных в ГИС (заработает с 1 марта будущего года) содержит раздел об ИИ-технологиях, однако изложенные в нем требования по безопасности ограничены эксплуатацией.

Вместе с тем, как и в случае с обычным софтом, не менее важно обезопасить ИИ-системы еще на стадии разработки (такой подход известен как security by design). Новая инициатива регулятора призвана восполнить этот пробел.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Gartner: к 2030 году половину ИБ-бюджетов составят превентивные ИИ-решения

По оценке Gartner, в 2024 году компании потратили 5% ИБ-бюджета на СЗИ, реализующие проактивный подход к кибербезопасности за счет использования ИИ. К 2030 году доля этой статьи расходов возрастет до 50%.

Традиционные решения по выявлению инцидентов и оперативному реагированию не способны обеспечить достойную защиту от атак с использованием ИИ. Новая, растущая угроза требует от защитников адекватного ответа.

В таких условиях больший эффект, по мнению аналитиков, можно ожидать от инструментов превентивной кибербезопасности на основе ИИ и ML. Применение таких технологий позволяет не только ускорить реакцию на инциденты, но также реализовать упреждающий подход к ИБ.

Подобного ИИ-помощника можно использовать для автоматизации Threat Hunting. Результаты прогностического анализа на основе собранных данных помогут специалистам по ИБ заранее подготовиться к отражению потенциальных угроз, смоделировать сценарии развития атаки, принять проактивные меры защиты.

Согласно Gartner, возможности превентивных ИБ-решений позволяют лишить злоумышленников шанса инициировать атаку и добраться до целевых ресурсов, пресечь начавшуюся атаку, а также отвлечь внимание атакующих от критически важных активов.

 

Прогнозируемый постепенный отказ от универсальных защитных платформ в пользу превентивных решений на базе агентских ИИ либо специализированных языковых моделей откроет новые возможности для ИБ-вендоров, позволив им сосредоточиться на конкретных нишах:

  • вертикалях (здравоохранение, финансы, промышленное производство);
  • типах приложений (АСУ, облако);
  • техниках и тактиках злоумышленников (вымогательство, атаки на цепочку поставок).

Подобная специализация должна усилить партнерские связи в экосистеме ИБ и расширить возможность интеграции разрозненных решений: никакой вендор не сможет в одиночку прикрыть стремительно растущую и многослойную глобальную площадь атаки (global attack surface grid, GASG).

Так, по прогнозу Gartner, число задокументированных уязвимостей (CVE) к 2030 году перевалит за 1 млн, более чем в три раза превысив объем 2025 года (примерно 277 тыс.).

В ответ на новые вызовы индустрии ИБ придется сплотиться, разработать стратегии взаимодействия, поработать над стандартизацией API и форматов данных, чтобы обеспечить бесшовную интеграцию специализированных продуктов. Венцом эволюции превентивных ИБ-решений, по мнению аналитиков, должна стать автономная кибериммунная система — Autonomous Cyber Immune System (ACIS).

«Неуклонное расширение и растущая сложность GASG заставляют традиционные, реактивные меры кибербезопасности выйти в тираж, — комментирует исполнительный вице-президент Gartner Карл Мэнион (Carl Manion). — ACIS пока находится на ранних этапах развития, однако ее проактивный характер и возможности адаптации — это, несомненно, будущее цифровой обороны. Разработка и развертывание интеллектуальных, децентрализованных, тактических фреймворков ACIS — не просто амбициозная цель, но также важнейшая задача в деле обеспечения безопасности нашего все более связного мира».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru