Умным агентам строят цифровые клетки: в России рождается новый рынок ИБ

Умным агентам строят цифровые клетки: в России рождается новый рынок ИБ

Умным агентам строят цифровые клетки: в России рождается новый рынок ИБ

Крупные российские компании разрабатывают системы контроля автономных ИИ-агентов. Спрос на такие решения растёт вслед за способностями нейросетей: вчера они сочиняли письма, а сегодня уже запускают код, открывают файлы и самостоятельно ходят по корпоративным системам. Оставлять такого сотрудника без присмотра становится опасно.

Основой нового направления стала инфраструктура harness — программная обвязка вокруг языковой модели, сообщают «Известия».

Она подключает память, данные и внешние инструменты, определяет доступные агенту действия и решает, когда нужно остановиться и позвать человека.

Собственные harness-решения создают Яндекс, MWS AI, «Сбер» и другие компании. Они разрабатывают маршрутизацию запросов между моделями, контроль расхода вычислительных ресурсов, мониторинг операций и защитные барьеры.

В Т1 сообщили, что за год число запросов бизнеса на механизмы контроля ИИ-агентов выросло примерно втрое. Около 80% обращений связаны с доступом к корпоративным данным, предотвращением утечек и обязательным подтверждением критических решений человеком.

Наиболее активно такими системами интересуются банки, промышленность, государственные организации и ретейл. По оценке ГК «Солар», российский рынок продуктов для защиты ИИ уже в 2026 году может достичь 1-2 млрд рублей, а вместе с услугами — 4 млрд. К концу десятилетия другие эксперты допускают рост сегмента до 3-8 млрд рублей.

Отдельный риск заключается в том, что языковая модель не всегда способна отличить данные от инструкции. Вредоносная команда, спрятанная в письме или документе, может заставить агента выполнить опасное действие. Поэтому контроль должен работать за пределами самой LLM: проверять запросы, ответы и обращения к инструментам.

Представители ФСТЭК России считают, что угрозы передачи конфиденциальной информации в сторонние ИИ-сервисы уже покрываются действующими требованиями. Минцифры продолжает работу над регулированием отрасли.

Подпишитесь на новости

Security Vision представила портал самооценки ИБ для холдингов

У одной «дочки» требования выполнены, у другой — замечания годами гуляют по почте, у третьей отчет живет в отдельной таблице. Security Vision представила Self-Assessment — портал, который собирает самооценку информационной безопасности всей группы компаний в одном месте и помогает контролировать устранение проблем.

Как заявляет разработчик, Security Vision SA охватывает весь цикл: от подготовки требований и рассылки опросных листов до расчета результатов и контроля корректирующих мероприятий. Головная организация получает сводную картину по дочерним структурам и отдельным системам.

Требования можно загружать, объединять в шаблоны, распределять по направлениям и хранить с учетом версий. Оценки запускаются по расписанию либо под конкретную задачу, а вопросы назначаются ответственным специалистам.

Ответы и обоснования проходят валидацию. Затем система рассчитывает результат по выбранной методике, включая собственную методологию организации. Если выполнение требования можно определить по метрикам, после настройки критериев поддерживается автоматическое заполнение ответа.

Дальше начинается самое полезное: невыполненные требования превращаются в план действий с ответственными, сроками и статусами. Руководство видит, какие компании исправляют замечания, а где работа зависла. Отчет «проблемы выявлены» получает продолжение — кто и когда их устранит.

Для анализа предусмотрены отчеты и интерактивные дашборды с детализацией до конкретной организации или системы. Также портал позволяет вести реестр внутренних нормативных документов, сохранять их версии и уведомлять сотрудников об ознакомлении.

По замыслу компании, единая методология должна сократить ручное сведение данных и помочь распределять ресурсы по приоритетам. Первую демонстрацию SA Security Vision проведет 27-28 октября на SOC Forum.

RSS: Новости на портале Anti-Malware.ru