AppSec Solutions разработала ИИ-файрвол для защиты LLM-систем

AppSec Solutions разработала ИИ-файрвол для защиты LLM-систем

AppSec Solutions разработала ИИ-файрвол для защиты LLM-систем

AppSec Solutions сообщила о разработке ИИ-файрвола — продукта для защиты систем с искусственным интеллектом и фильтрации запросов к большим языковым моделям. Разработкой занималась команда AppSec Solutions, входящая в группу компаний.

Решение ориентировано на компании, которые уже используют LLM в бизнес-процессах или только планируют внедрять нейросети.

Основная задача ИИ-файрвола — проверять входящие запросы и снижать риски, связанные с небезопасным использованием моделей.

Такие инструменты становятся всё актуальнее по мере того, как ИИ-сервисы начинают работать с корпоративными данными, внутренними системами и пользовательскими обращениями. Среди типичных рисков — инъекции в промпты, попытки обойти ограничения модели, утечки чувствительной информации и нежелательная генерация ответов.

Swordfish Security уже занимается темой безопасности ИИ. Ранее компания подготовила общедоступный фреймворк безопасности ИИ, с помощью которого организации могут оценивать зрелость и защищённость систем с применением нейросетей. Заявляется, что он адаптирует международный опыт к российскому законодательству и локальной практике.

Появление ИИ-файрвола выглядит логичным продолжением этой работы. Рынок постепенно приходит к простой мысли: подключить LLM к продукту или внутреннему сервису уже недостаточно. Нужно ещё понимать, кто и как с ней взаимодействует, какие запросы проходят внутрь системы и какие данные могут выйти наружу.

По сути, Swordfish Security развивает направление прикладной защиты ИИ-систем не на уровне общих разговоров про риски нейросетей, а через инструменты, которые должны встраиваться в реальные корпоративные сценарии.

К слову, команда AM Live провела день в офисе ГК Swordfish Securirty и выяснила, как развивают защиту ИИ уже сейчас и как она будет выглядеть в будущем. Кибербезопасность, разработка и искусственный интеллект; как на самом деле работает команда, которая создаёт продукты в условиях, где ещё нет готовых правил, стандартов и людей.

Чаты WhatsApp на iPhone и Mac могут храниться без локального шифрования

Исследователи снова заглянули под капот WhatsApp (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России) и там, мягко говоря, не всё в порядке. Специалисты Mysk заявили, что на macOS и iOS мессенджер может хранить базы чатов в незашифрованном виде внутри общего контейнера приложений Meta.

Речь идёт о механизме app group containers на платформах Apple. Он нужен, чтобы приложения одного разработчика могли обмениваться данными.

В случае Meta это общий контейнер group.com.facebook.family, которым, по данным исследователей, могут пользоваться WhatsApp, Facebook и Instagram (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России).

Главная претензия простая: если история переписок лежит локально без шифрования, то сквозное шифрование уже не выглядит таким бронебойным. Да, оно защищает сообщения при передаче, но не гарантирует, что локальная база на устройстве будет такой же неприступной.

По словам Mysk, другие приложения Meta на том же устройстве теоретически могут получить доступ к данным WhatsApp без отдельного согласия пользователя. При этом никаких понятных уведомлений для пользователя о таком доступе не предусмотрено.

 

Исследователи также показали, что данные чатов можно извлечь из резервных копий iPhone, где видна та же незашифрованная структура. То есть проблема касается не только самого приложения, но и того, как эти данные живут в бэкапах.

Отдельно ситуацию портит уязвимость macOS CVE-2026-28910 в Archive Utility. Она позволяла обходить защиту App Sandbox и получать почти неограниченный доступ к файловой системе. В связке с особенностями хранения WhatsApp это могло дать атакующим доступ к чатам, а также данным других приложений вроде Сообщения и Safari.

Правда, не все считают ситуацию катастрофой. WABetaInfo отмечает, что локальные базы WhatsApp всё же находятся внутри песочницы Apple, а значит, просто так залезть туда стороннее приложение не должно. Для доступа нужны системные привилегии или эксплуатация уязвимостей ОС.

Но Mysk отвечает: общий контейнер приложений Meta сам по себе ослабляет изоляцию. Пользователь может думать, что WhatsApp, Facebook и Instagram живут каждый в своей комнате, а на деле у них может быть общий коридор с дверями без нормальных табличек.

Пользователям советуют включать шифрование резервных копий iPhone через iTunes или Finder, обновлять iOS и macOS, использовать надёжный пароль устройства и не плодить лишние приложения из одной экосистемы, если приватность действительно важна.

Активной массовой эксплуатации пока не зафиксировано.

RSS: Новости на портале Anti-Malware.ru