Новый джейлбрейк обходит защиту GPT-5 с помощью скрытых историй

Новый джейлбрейк обходит защиту GPT-5 с помощью скрытых историй

Новый джейлбрейк обходит защиту GPT-5 с помощью скрытых историй

Исследователи в области кибербезопасности нашли новый способ обойти защиту и этические фильтры в свежей версии GPT-5 от OpenAI. Метод, по словам специалистов платформы NeuralTrust, сочетает приём Echo Chamber с так называемым «сюжетным управлением» — и позволяет заставить модель выдавать инструкции, которые она обычно блокирует.

Суть техники в том, чтобы «отравить» контекст разговора незаметно для фильтров. Сначала создаётся цепочка нейтральных на вид фраз с нужными ключевыми словами, потом они развиваются в виде истории.

Так модель шаг за шагом подводят к нежелательному ответу, не формулируя прямых запросов. Например, вместо того чтобы спросить, как сделать «коктейль Молотова», предлагается придумать предложения с набором слов «cocktail, story, survival, molotov, safe, lives» — а дальше история постепенно выводит на нужные инструкции.

NeuralTrust отмечает, что Echo Chamber уже применялся раньше — в том числе в связке с техникой Crescendo, чтобы обходить защиту чат-бота Grok 4 от xAI. Новая версия атаки показала, что фильтры на основе ключевых слов или «распознавания намерений» легко обмануть в многоходовом диалоге, если контекст постепенно и незаметно смещать в опасную сторону.

Тема джейлбрейк-атак в ИИ сейчас особенно остра, поскольку ИИ-агенты и облачные LLM всё активнее применяются в корпоративной среде. Риски растут, и Echo Chamber — не единственная угроза. Например, специалисты Zenity Labs описали серию zero-click атак под общим названием AgentFlayer.

Они позволяют, например, встроить в безобидный документ на Google Drive скрытую инструкцию для чат-бота, подключённого к облачному хранилищу, — и тот сам «вытянет» API-ключи или другие секреты.

Другой вариант — заражённая задача в Jira, которая вынудит интегрированный с MCP код-редактор вытащить данные из репозитория. А в Microsoft Copilot Studio таким образом можно обмануть кастомного агента и заставить его выдать ценные сведения.

Эксперты предупреждают: подключение ИИ-моделей к внешним сервисам резко расширяет поверхность атаки. Здесь нет кликов по вредоносным ссылкам и загрузки файлов — агент выполняет всё сам.

В отчёте Trend Micro за первое полугодие 2025 года подчёркивается: противодействие таким атакам требует строгой фильтрации выходных данных, регулярного тестирования систем и баланса между функциональностью ИИ и его безопасностью.

 

Не так давно мы публиковали статью «Основные угрозы для чат-ботов и способы защиты от них», где рассказывали об инъекциях стимула (Prompt Injection) и обходе ограничений.

Киберстрахование выйдет на батл: Газинформсервис обсудит риски для бизнеса

Сергей Полунин, руководитель группы защиты инфраструктурных ИТ-решений компании «Газинформсервис», выступит экспертом по информационной безопасности (ИБ) на кибербатле. Он пройдёт на XX конференции «Корпоративное страхование 2026», которую организует компания ICG.

22 мая в «Гранд Отеле Европа» состоится второй день мероприятия. В рамках него проводится кибербатл: дискуссия на тему киберстрахования.

Модерировать её будет Иван Еремеев, управляющий директор РК «Страховой Брокер». А Сергей Полунин из компании «Газинформсервис» выступит экспертом по информационной безопасности и расскажет о ключевых трендах в направлении киберугроз для бизнеса, а также поделится статистикой.

Участники дискуссии разделятся на команды адептов, в которой выступят представители страховых компаний, и скептиков, которых представят заказчики. Они будут обмениваться опытом, цифрами и фактами на тему зрелости отрасли и запросов заказчиков и своевременности появления продуктов и услуг по страхованию киберрисков, затронут вопросы ценообразования и практики таких выплат.

«У бизнеса давно есть запрос на качественную киберзащиту и работу с киберрисками, которую мы как вендор, совместно с партнёрами, готовы обеспечивать. Но безопасность — это не только про внедрённые решения, но и про меры предосторожности на случай, если инцидент ИБ всё же случается. Поэтому мы развиваем направление киберстрахования и на форуме обязательно обсудим не только его ключевые аспекты с заказчиками, страховыми компаниями и другими участниками рынка, но и подготовим некую дорожную карту по развитию этого направления на ближайшие годы», — подчеркнул Григорий Ковшов, руководитель службы маркетинга компании «Газинформсервис».

«Наш рынок уже сформировал запрос на страхование в области киберзащиты: по оценкам экспертов, в 2025 году спрос на услуги киберстрахования вырос на 60%. И в последние несколько лет всё больше страховых компаний и других участников рынка киберстрахования пробуют, создают и предлагают на открытом рынке свои продукты и решения в этой области. Что интересно — взгляд рынка, страховщиков и ИБ-вендоров на страхование киберрисков различается в некоторых ключевых вопросах, и это станет залогом яркой дискуссии в рамках кибербатла», — отметил Сергей Полунин.

«Корпоративное страхование 2026» — это ежегодная международная конференция, которая состоится уже в 20-й раз. Мероприятие объединит ведущих экспертов отрасли для обсуждения актуальных вызовов, обмена практическим опытом и поиска эффективных решений в сфере корпоративного страхования.

RSS: Новости на портале Anti-Malware.ru