AppSec Solutions разработала ИИ-файрвол для защиты LLM-систем

AppSec Solutions разработала ИИ-файрвол для защиты LLM-систем

AppSec Solutions разработала ИИ-файрвол для защиты LLM-систем

AppSec Solutions сообщила о разработке ИИ-файрвола — продукта для защиты систем с искусственным интеллектом и фильтрации запросов к большим языковым моделям. Разработкой занималась команда AppSec Solutions, входящая в группу компаний.

Решение ориентировано на компании, которые уже используют LLM в бизнес-процессах или только планируют внедрять нейросети.

Основная задача ИИ-файрвола — проверять входящие запросы и снижать риски, связанные с небезопасным использованием моделей.

Такие инструменты становятся всё актуальнее по мере того, как ИИ-сервисы начинают работать с корпоративными данными, внутренними системами и пользовательскими обращениями. Среди типичных рисков — инъекции в промпты, попытки обойти ограничения модели, утечки чувствительной информации и нежелательная генерация ответов.

Swordfish Security уже занимается темой безопасности ИИ. Ранее компания подготовила общедоступный фреймворк безопасности ИИ, с помощью которого организации могут оценивать зрелость и защищённость систем с применением нейросетей. Заявляется, что он адаптирует международный опыт к российскому законодательству и локальной практике.

Появление ИИ-файрвола выглядит логичным продолжением этой работы. Рынок постепенно приходит к простой мысли: подключить LLM к продукту или внутреннему сервису уже недостаточно. Нужно ещё понимать, кто и как с ней взаимодействует, какие запросы проходят внутрь системы и какие данные могут выйти наружу.

По сути, Swordfish Security развивает направление прикладной защиты ИИ-систем не на уровне общих разговоров про риски нейросетей, а через инструменты, которые должны встраиваться в реальные корпоративные сценарии.

К слову, команда AM Live провела день в офисе ГК Swordfish Securirty и выяснила, как развивают защиту ИИ уже сейчас и как она будет выглядеть в будущем. Кибербезопасность, разработка и искусственный интеллект; как на самом деле работает команда, которая создаёт продукты в условиях, где ещё нет готовых правил, стандартов и людей.

РТК-ЦОД добавил ГОСТ-VPN в «Облако КИИ»

РТК-ЦОД расширил возможности своей платформы «Облако КИИ», добавив сервис защищённого подключения ГОСТ-VPN. Решение предназначено для организации безопасного обмена данными между инфраструктурой заказчика и облачной средой с использованием российских криптографических алгоритмов.

Новый сервис работает в составе «Облака КИИ» — платформы, построенной на отечественном программном обеспечении и оборудовании для размещения объектов критической информационной инфраструктуры.

ГОСТ-VPN позволяет создавать защищённые каналы связи между локальными информационными системами организаций и облачными ресурсами. Для шифрования используются сертифицированные ФСБ России средства криптографической защиты информации, поддерживающие алгоритмы семейства ГОСТ.

В основе сервиса лежит решение компании «ИнфоТеКС». Архитектура предусматривает резервирование компонентов для повышения устойчивости соединений.

В первую очередь сервис ориентирован на организации, для которых требования к защите данных являются обязательными. Среди потенциальных пользователей названы государственные структуры, финансовые организации, предприятия промышленности и ТЭК, медицинские учреждения, транспортные компании и операторы персональных данных.

В РТК-ЦОД отмечают, что заказчики смогут выбирать различные варианты подключения в зависимости от особенностей своей инфраструктуры. Поддерживаются как собственные, так и арендуемые средства криптографической защиты.

Появление ГОСТ-VPN отражает общий тренд на развитие отечественных облачных сервисов для объектов КИИ и организаций, работающих с чувствительной информацией. Для таких компаний вопрос безопасного взаимодействия между локальной инфраструктурой и облачными ресурсами остаётся одним из ключевых при переносе сервисов в облако.

RSS: Новости на портале Anti-Malware.ru