Государственный ИИ хотят выделить в свой сегмент и не пускать туда без MFA

Государственный ИИ хотят выделить в свой сегмент и не пускать туда без MFA

Государственный ИИ хотят выделить в свой сегмент и не пускать туда без MFA

ФСТЭК подготовила новые требования к защите моделей искусственного интеллекта в государственных информационных системах. Проект поправок к приказу № 117 опубликован для общественного обсуждения. Если документ примут, новые правила заработают 1 марта 2027 года.

Главное требование — ИИ-модели придётся изолировать в отдельном сегменте информационной системы или инфраструктуры.

Привилегированный доступ туда разрешат только с усиленной многофакторной аутентификацией. Обычным пользователям выдадут минимальные права, необходимые для работы, а все их действия будут регистрировать и анализировать.

Если модель обрабатывает информацию ограниченного доступа или выполняет значимые функции оператора, гайки закрутят сильнее. Организации обяжут фильтровать входящие запросы и ответы ИИ, ограничивать количество обращений, контролировать доступ и доступную модели функциональность. Реализовать эти меры можно через ПО самой системы или отдельные средства защиты ИИ.

Особое внимание досталось ИИ-агентам, включая автономные. Операторы должны будут не допустить их несанкционированного воздействия на ресурсы ГИС, а также контролировать и ограничивать права доступа.

Требования затронут и сторонние ИИ-сервисы. Если их предоставляет подрядчик, его обязанности по защите информации придётся закрепить во внутренних стандартах и регламентах организации.

Разработчики проекта указывают, что поправки подготовлены с учётом практики применения приказа ФСТЭК № 117, который действует с 1 марта 2026 года.

Пока это только проект, но вектор уже вырисовывается: государственный ИИ должен сидеть в отдельном контуре, получать минимум прав и оставлять подробный журнал каждого шага.

PT Dephaze получил LLM, которая сама ищет пароли и развивает атаку

Positive Technologies обновила систему автопентеста PT Dephaze. Теперь продукт использует встроенную языковую модель для поиска логинов и паролей, а также проверяет защищённость Unix-, Linux- и импортозамещённых инфраструктур.

Локальная LLM анализирует конфигурационные и текстовые файлы в сетевых папках, находит потенциальные учётные данные и проверяет, подходят ли они для входа в обнаруженные корпоративные сервисы.

Нерабочие комбинации отсеиваются, а действующие используются для дальнейшего развития тестовой атаки.

Модель поставляется вместе с дистрибутивом и, по заявлению разработчика, не передаёт обрабатываемую информацию в интернет или сторонним сервисам.

После автопентеста специалисты смогут удалить файлы с забытыми паролями и другими конфиденциальными сведениями (до того, как их обнаружит уже не учебный, а вполне настоящий злоумышленник).

Обновление также расширяет набор атак на Unix- и Linux-системы. PT Dephaze может эксплуатировать подходящие уязвимости для повышения привилегий, извлекать учётные данные с захваченного ресурса и проверять их в других сервисах. Расчёт простой: сотрудники всё ещё любят один пароль на все случаи жизни, а атакующие этим с удовольствием пользуются.

Отдельно появилась поддержка служб каталогов на базе FreeIPA, которые применяются в том числе в импортозамещённых инфраструктурах. Система распознаёт такие домены, собирает сведения об учётных записях, проверяет пароли и может анонимно выгружать список пользователей, если конфигурация сервиса это позволяет.

В Positive Technologies называют интеграцию LLM первым этапом развития ИИ-возможностей PT Dephaze. В дальнейшем разработчики планируют добавить новые техники атак на российские операционные системы.

RSS: Новости на портале Anti-Malware.ru