Новый джейлбрейк обходит защиту GPT-5 с помощью скрытых историй

Новый джейлбрейк обходит защиту GPT-5 с помощью скрытых историй

Новый джейлбрейк обходит защиту GPT-5 с помощью скрытых историй

Исследователи в области кибербезопасности нашли новый способ обойти защиту и этические фильтры в свежей версии GPT-5 от OpenAI. Метод, по словам специалистов платформы NeuralTrust, сочетает приём Echo Chamber с так называемым «сюжетным управлением» — и позволяет заставить модель выдавать инструкции, которые она обычно блокирует.

Суть техники в том, чтобы «отравить» контекст разговора незаметно для фильтров. Сначала создаётся цепочка нейтральных на вид фраз с нужными ключевыми словами, потом они развиваются в виде истории.

Так модель шаг за шагом подводят к нежелательному ответу, не формулируя прямых запросов. Например, вместо того чтобы спросить, как сделать «коктейль Молотова», предлагается придумать предложения с набором слов «cocktail, story, survival, molotov, safe, lives» — а дальше история постепенно выводит на нужные инструкции.

NeuralTrust отмечает, что Echo Chamber уже применялся раньше — в том числе в связке с техникой Crescendo, чтобы обходить защиту чат-бота Grok 4 от xAI. Новая версия атаки показала, что фильтры на основе ключевых слов или «распознавания намерений» легко обмануть в многоходовом диалоге, если контекст постепенно и незаметно смещать в опасную сторону.

Тема джейлбрейк-атак в ИИ сейчас особенно остра, поскольку ИИ-агенты и облачные LLM всё активнее применяются в корпоративной среде. Риски растут, и Echo Chamber — не единственная угроза. Например, специалисты Zenity Labs описали серию zero-click атак под общим названием AgentFlayer.

Они позволяют, например, встроить в безобидный документ на Google Drive скрытую инструкцию для чат-бота, подключённого к облачному хранилищу, — и тот сам «вытянет» API-ключи или другие секреты.

Другой вариант — заражённая задача в Jira, которая вынудит интегрированный с MCP код-редактор вытащить данные из репозитория. А в Microsoft Copilot Studio таким образом можно обмануть кастомного агента и заставить его выдать ценные сведения.

Эксперты предупреждают: подключение ИИ-моделей к внешним сервисам резко расширяет поверхность атаки. Здесь нет кликов по вредоносным ссылкам и загрузки файлов — агент выполняет всё сам.

В отчёте Trend Micro за первое полугодие 2025 года подчёркивается: противодействие таким атакам требует строгой фильтрации выходных данных, регулярного тестирования систем и баланса между функциональностью ИИ и его безопасностью.

 

Не так давно мы публиковали статью «Основные угрозы для чат-ботов и способы защиты от них», где рассказывали об инъекциях стимула (Prompt Injection) и обходе ограничений.

Налоговая прикрывает схему с закрытием и повторным открытием ИП

Малому бизнесу прикрывают ещё одну лазейку для ухода от НДС. На фоне курса на обеление экономики власти усиливают контроль за предпринимателями, которые закрывают ИП, а затем быстро открывают новое, чтобы обнулить лимиты по выручке.

Теперь такой фокус может не пройти: доходы будут считать суммарно за весь год, даже если бизнес успел умереть и тут же воскреснуть с новым свидетельством.

Об этом пишут «Известия». Если налоговая решит, что перерегистрация была нужна не для реального перезапуска бизнеса, а ради налоговых льгот, предпринимателю могут доначислить НДС, пени и штрафы.

Причина ажиотажа понятна. С 2025 года компании и ИП на УСН начали платить НДС при годовой выручке выше 60 млн рублей. С 2026 года порог снизили втрое — до 20 млн рублей. В результате под новый порядок попало заметно больше малого бизнеса.

У предпринимателей есть выбор: платить НДС по стандартной ставке 22% с правом на вычет или использовать льготные ставки — 5% при доходе до 272 млн рублей и 7% при доходе до 490 млн рублей. Но во втором случае вернуть часть уплаченного НДС уже не получится.

После ужесточения правил часть бизнеса начала искать обходные маршруты. Один из популярных сценариев — закрыть ИП, когда доход приближается к лимиту, а потом зарегистрироваться заново, как будто счётчик выручки снова на нуле.

Налоговые органы всё внимательнее смотрят не на сам факт закрытия и открытия ИП, а на реальную картину: кто клиенты, где сотрудники, какие адреса, кассы, счета, сайты и куда движутся деньги. Если деятельность не прекращалась, а просто переехала на новое ИП, это могут признать фиктивной перерегистрацией.

Минфин уже обозначил позицию: отдельного порядка расчёта выручки для случаев, когда предприниматель закрывается и заново регистрируется в течение года, в законодательстве нет. Если главной целью такого манёвра было снижение или неуплата НДС, налоговые обязательства посчитают так, будто перерегистрации вообще не было.

RSS: Новости на портале Anti-Malware.ru