AppSec Solutions разработала ИИ-файрвол для защиты LLM-систем

AppSec Solutions разработала ИИ-файрвол для защиты LLM-систем

AppSec Solutions разработала ИИ-файрвол для защиты LLM-систем

AppSec Solutions сообщила о разработке ИИ-файрвола — продукта для защиты систем с искусственным интеллектом и фильтрации запросов к большим языковым моделям. Разработкой занималась команда AppSec Solutions, входящая в группу компаний.

Решение ориентировано на компании, которые уже используют LLM в бизнес-процессах или только планируют внедрять нейросети.

Основная задача ИИ-файрвола — проверять входящие запросы и снижать риски, связанные с небезопасным использованием моделей.

Такие инструменты становятся всё актуальнее по мере того, как ИИ-сервисы начинают работать с корпоративными данными, внутренними системами и пользовательскими обращениями. Среди типичных рисков — инъекции в промпты, попытки обойти ограничения модели, утечки чувствительной информации и нежелательная генерация ответов.

Swordfish Security уже занимается темой безопасности ИИ. Ранее компания подготовила общедоступный фреймворк безопасности ИИ, с помощью которого организации могут оценивать зрелость и защищённость систем с применением нейросетей. Заявляется, что он адаптирует международный опыт к российскому законодательству и локальной практике.

Появление ИИ-файрвола выглядит логичным продолжением этой работы. Рынок постепенно приходит к простой мысли: подключить LLM к продукту или внутреннему сервису уже недостаточно. Нужно ещё понимать, кто и как с ней взаимодействует, какие запросы проходят внутрь системы и какие данные могут выйти наружу.

По сути, Swordfish Security развивает направление прикладной защиты ИИ-систем не на уровне общих разговоров про риски нейросетей, а через инструменты, которые должны встраиваться в реальные корпоративные сценарии.

К слову, команда AM Live провела день в офисе ГК Swordfish Securirty и выяснила, как развивают защиту ИИ уже сейчас и как она будет выглядеть в будущем. Кибербезопасность, разработка и искусственный интеллект; как на самом деле работает команда, которая создаёт продукты в условиях, где ещё нет готовых правил, стандартов и людей.

Билайн открыл доступ к Netflix и Spotify без VPN

Похоже, идея белого VPN начала превращаться из обсуждений в реальный сервис. По информации СМИ, «Билайн» открыл своим абонентам доступ к ряду популярных зарубежных сервисов, которые официально не запрещены в России, но ранее были доступны только через VPN.

Как сообщил генеральный директор компании Сергей Анохин, с 9 июня пользователи подписки bee могут напрямую пользоваться рядом зарубежных платформ.

В список вошли Spotify, Netflix, Ticketmaster, Brawl Stars и другие сервисы. При этом возможность работает на смартфонах, а использование через модемы и стационарные роутеры может ограничиваться.

В компании прямо связали запуск сервиса с концепцией так называемых белых VPN, которая активно обсуждалась на Петербургском международном экономическом форуме.

Напомним, в начале июня Сергей Анохин рассказывал, что операторы связи совместно с властями прорабатывают механизм доступа к зарубежным ресурсам, которые не заблокированы Роскомнадзором, но сами ограничили работу для российских пользователей.

Речь шла не о создании единого списка разрешённых VPN-сервисов, а о технической возможности открыть доступ к отдельным площадкам без необходимости включать сторонние средства обхода ограничений.

Среди примеров тогда назывались Netflix, различные ИИ-сервисы и другие зарубежные платформы, которыми продолжают пользоваться российские пользователи.

Если информация подтвердится, то это может стать одним из первых практических примеров реализации концепции выборочного доступа к зарубежным ресурсам без классического VPN. Фактически оператор берёт на себя техническую часть маршрутизации трафика, избавляя пользователя от необходимости искать сторонние сервисы обхода.

Пока неизвестно, насколько широким окажется список доступных платформ и появятся ли аналогичные предложения у других операторов. Однако сама идея, ещё недавно звучавшая как экспериментальная инициатива на ПМЭФ, похоже, начала получать вполне прикладное воплощение.

Для пользователей это означает простую вещь: некоторые зарубежные сервисы могут снова заработать без лишних настроек, приложений и постоянного поиска работающего VPN.

RSS: Новости на портале Anti-Malware.ru