Государственный ИИ хотят выделить в свой сегмент и не пускать туда без MFA

Государственный ИИ хотят выделить в свой сегмент и не пускать туда без MFA

Государственный ИИ хотят выделить в свой сегмент и не пускать туда без MFA

ФСТЭК подготовила новые требования к защите моделей искусственного интеллекта в государственных информационных системах. Проект поправок к приказу № 117 опубликован для общественного обсуждения. Если документ примут, новые правила заработают 1 марта 2027 года.

Главное требование — ИИ-модели придётся изолировать в отдельном сегменте информационной системы или инфраструктуры.

Привилегированный доступ туда разрешат только с усиленной многофакторной аутентификацией. Обычным пользователям выдадут минимальные права, необходимые для работы, а все их действия будут регистрировать и анализировать.

Если модель обрабатывает информацию ограниченного доступа или выполняет значимые функции оператора, гайки закрутят сильнее. Организации обяжут фильтровать входящие запросы и ответы ИИ, ограничивать количество обращений, контролировать доступ и доступную модели функциональность. Реализовать эти меры можно через ПО самой системы или отдельные средства защиты ИИ.

Особое внимание досталось ИИ-агентам, включая автономные. Операторы должны будут не допустить их несанкционированного воздействия на ресурсы ГИС, а также контролировать и ограничивать права доступа.

Требования затронут и сторонние ИИ-сервисы. Если их предоставляет подрядчик, его обязанности по защите информации придётся закрепить во внутренних стандартах и регламентах организации.

Разработчики проекта указывают, что поправки подготовлены с учётом практики применения приказа ФСТЭК № 117, который действует с 1 марта 2026 года.

Пока это только проект, но вектор уже вырисовывается: государственный ИИ должен сидеть в отдельном контуре, получать минимум прав и оставлять подробный журнал каждого шага.

ИИ в банковском антифроде пока проигрывает старым добрым правилам

Банки активно обсуждают искусственный интеллект, но ловить мошенников по-прежнему предпочитают проверенными методами. Только 13% российских банков используют машинное обучение как основной механизм антифрода, и ни один из них полностью не доволен результатом.

Такие данные получили «Инфосистемы Джет» после опроса руководителей антифрод-подразделений более чем 30 банков.

Главные претензии к ИИ: непрозрачные решения, высокие требования к данным и дорогая эксплуатация. Модель объявляет операцию подозрительной, а специалисту потом приходится гадать, что именно ей не понравилось.

У классических механизмов дела бодрее. Системами на основе правил довольны 87% участников, а многофакторными моделями оценки риска — все опрошенные. Правда, последние внедрили только 40% банков, поскольку для настройки требуется серьёзная внутренняя экспертиза.

И вот с ней как раз беда. У 70% банков нет собственных ресурсов для самостоятельной настройки антифрод-систем. Более половины организаций не смогли выполнить новые требования регуляторов без масштабной помощи вендора, а 73% считают встроенную аналитику своих платформ ограниченной.

Базовую защиту дистанционных каналов банки почти закрыли: интернет-банк и мобильные приложения охвачены средствами антифрода практически на 100%. Зато отделения и кредитные продукты остались на периферии, уровень покрытия там не превышает 40%.

Недостающую аналитику банки собирают сами: 80% создают собственные хранилища данных, а 40% внедряют инструменты поиска связей между клиентами, счетами и операциями.

По прогнозу «Инфосистем Джет», в ближайшие два-три года рынок будет соревноваться уже не в скорости, а в гибкости настройки. Победит тот, кто наконец отдаст управление антифродом самим аналитикам, а не заставит их каждый раз звать вендора. Результаты исследования.

RSS: Новости на портале Anti-Malware.ru