AppSec Solutions разработала ИИ-файрвол для защиты LLM-систем

AppSec Solutions разработала ИИ-файрвол для защиты LLM-систем

AppSec Solutions разработала ИИ-файрвол для защиты LLM-систем

AppSec Solutions сообщила о разработке ИИ-файрвола — продукта для защиты систем с искусственным интеллектом и фильтрации запросов к большим языковым моделям. Разработкой занималась команда AppSec Solutions, входящая в группу компаний.

Решение ориентировано на компании, которые уже используют LLM в бизнес-процессах или только планируют внедрять нейросети.

Основная задача ИИ-файрвола — проверять входящие запросы и снижать риски, связанные с небезопасным использованием моделей.

Такие инструменты становятся всё актуальнее по мере того, как ИИ-сервисы начинают работать с корпоративными данными, внутренними системами и пользовательскими обращениями. Среди типичных рисков — инъекции в промпты, попытки обойти ограничения модели, утечки чувствительной информации и нежелательная генерация ответов.

Swordfish Security уже занимается темой безопасности ИИ. Ранее компания подготовила общедоступный фреймворк безопасности ИИ, с помощью которого организации могут оценивать зрелость и защищённость систем с применением нейросетей. Заявляется, что он адаптирует международный опыт к российскому законодательству и локальной практике.

Появление ИИ-файрвола выглядит логичным продолжением этой работы. Рынок постепенно приходит к простой мысли: подключить LLM к продукту или внутреннему сервису уже недостаточно. Нужно ещё понимать, кто и как с ней взаимодействует, какие запросы проходят внутрь системы и какие данные могут выйти наружу.

По сути, Swordfish Security развивает направление прикладной защиты ИИ-систем не на уровне общих разговоров про риски нейросетей, а через инструменты, которые должны встраиваться в реальные корпоративные сценарии.

К слову, команда AM Live провела день в офисе ГК Swordfish Securirty и выяснила, как развивают защиту ИИ уже сейчас и как она будет выглядеть в будущем. Кибербезопасность, разработка и искусственный интеллект; как на самом деле работает команда, которая создаёт продукты в условиях, где ещё нет готовых правил, стандартов и людей.

К 2029-му в России начнут отключать таксистов от агрегаторов за переработки

Российские власти хотят навести порядок с режимом труда и отдыха водителей такси. И нет, речь не о вежливой памятке. Водителей, которые нарушают правила, могут начать отключать от сервисов заказа такси.

Как сообщает ТАСС со ссылкой на утверждённый правительством РФ документ, власти проработают механизм, при котором агрегаторы смогут ограничивать доступ водителей к заказам.

Причиной может стать несоблюдение режима труда и отдыха, а также грубые или регулярные нарушения законодательства в сфере безопасности дорожного движения.

Проще говоря, если водитель работает на износ, игнорирует перерывы и превращает смену в марафон, его могут временно или полностью отрезать от платформы. Идея понятная: уставший водитель за рулём — это уже не герой труда, а потенциальная проблема на дороге.

Проработать меры должны Минтранс, МВД и региональные власти при участии самих сервисов такси. Срок — до 2029 года. После этого ожидается доклад в правительство.

Сейчас по закону нормальная продолжительность рабочей недели для водителей такси не должна превышать 40 часов. При пятидневке ежедневная смена должна быть не больше 8 часов. При суммированном учёте рабочего времени её можно продлить до 10–12 часов.

Есть и правило по перерывам: после каждых 4,5 часа за рулём водитель обязан отдыхать минимум 45 минут. Этот перерыв можно делить на части, но совсем игнорировать его нельзя.

Если механизм действительно заработает, агрегаторам придётся внимательнее следить не только за рейтингами и поездками, но и за тем, сколько водитель фактически проводит за рулём. А водителям — привыкать к мысли, что бесконечная смена может закончиться не премией, а отключением от сервиса.

RSS: Новости на портале Anti-Malware.ru