Государственный ИИ хотят выделить в свой сегмент и не пускать туда без MFA

Государственный ИИ хотят выделить в свой сегмент и не пускать туда без MFA

Государственный ИИ хотят выделить в свой сегмент и не пускать туда без MFA

ФСТЭК подготовила новые требования к защите моделей искусственного интеллекта в государственных информационных системах. Проект поправок к приказу № 117 опубликован для общественного обсуждения. Если документ примут, новые правила заработают 1 марта 2027 года.

Главное требование — ИИ-модели придётся изолировать в отдельном сегменте информационной системы или инфраструктуры.

Привилегированный доступ туда разрешат только с усиленной многофакторной аутентификацией. Обычным пользователям выдадут минимальные права, необходимые для работы, а все их действия будут регистрировать и анализировать.

Если модель обрабатывает информацию ограниченного доступа или выполняет значимые функции оператора, гайки закрутят сильнее. Организации обяжут фильтровать входящие запросы и ответы ИИ, ограничивать количество обращений, контролировать доступ и доступную модели функциональность. Реализовать эти меры можно через ПО самой системы или отдельные средства защиты ИИ.

Особое внимание досталось ИИ-агентам, включая автономные. Операторы должны будут не допустить их несанкционированного воздействия на ресурсы ГИС, а также контролировать и ограничивать права доступа.

Требования затронут и сторонние ИИ-сервисы. Если их предоставляет подрядчик, его обязанности по защите информации придётся закрепить во внутренних стандартах и регламентах организации.

Разработчики проекта указывают, что поправки подготовлены с учётом практики применения приказа ФСТЭК № 117, который действует с 1 марта 2026 года.

Пока это только проект, но вектор уже вырисовывается: государственный ИИ должен сидеть в отдельном контуре, получать минимум прав и оставлять подробный журнал каждого шага.

ГК «Солар» объединила три технологии для защиты софта от ИИ-рисков

Искусственный интеллект научился штамповать код с бешеной скоростью, но безопаснее от этого софт не стал. По данным ГК «Солар» и УЦСБ, ИИ при разработке используют уже 82% организаций. При этом публичные LLM могут пропускать или неверно определять до 40-50% уязвимостей, выявляемых средствами статического анализа.

Особенно весело становится после релиза: в 75-80% массовых цифровых сервисов, изученных экспертами «Солара», обнаруживаются критические уязвимости.

А времени на раздумья всё меньше. Если в 2019 году окно для эксплуатации бреши составляло около 63 дней, то в 2025-м атакующим порой хватало нескольких часов. В утечках данных через LLM исходный код занимает 41%.

На этом фоне «Солар» объединил три технологии — Solar appScreener, Luntry и Hexway ASOC — в единый портфель для защиты ПО от рисков, связанных с ИИ. Контур охватывает весь путь приложения: написание кода, сборку, тестирование, выпуск в прод и эксплуатацию.

Solar appScreener получил локальный ИИ-плагин для проверки и исправления уязвимостей. Заявленная точность достигает более 90% при триаже и 85% при подготовке исправлений. Решение может работать без интернета, чтобы корпоративный код не отправлялся гулять по внешним сервисам.

Luntry следит за контейнерами и Kubernetes-кластерами, помогает приоритизировать уязвимости и выявлять неизвестные угрозы. Hexway ASOC собирает результаты SAST, DAST, SCA и пентестов, убирает дубли, сортирует находки по риску и контролирует сроки исправления.

По оценке «Солара», российский рынок AppSec вырастет с 2,8 млрд рублей в 2025 году до 5,7 млрд к 2030-му.

RSS: Новости на портале Anti-Malware.ru