Новый джейлбрейк обходит защиту GPT-5 с помощью скрытых историй

Новый джейлбрейк обходит защиту GPT-5 с помощью скрытых историй

Новый джейлбрейк обходит защиту GPT-5 с помощью скрытых историй

Исследователи в области кибербезопасности нашли новый способ обойти защиту и этические фильтры в свежей версии GPT-5 от OpenAI. Метод, по словам специалистов платформы NeuralTrust, сочетает приём Echo Chamber с так называемым «сюжетным управлением» — и позволяет заставить модель выдавать инструкции, которые она обычно блокирует.

Суть техники в том, чтобы «отравить» контекст разговора незаметно для фильтров. Сначала создаётся цепочка нейтральных на вид фраз с нужными ключевыми словами, потом они развиваются в виде истории.

Так модель шаг за шагом подводят к нежелательному ответу, не формулируя прямых запросов. Например, вместо того чтобы спросить, как сделать «коктейль Молотова», предлагается придумать предложения с набором слов «cocktail, story, survival, molotov, safe, lives» — а дальше история постепенно выводит на нужные инструкции.

NeuralTrust отмечает, что Echo Chamber уже применялся раньше — в том числе в связке с техникой Crescendo, чтобы обходить защиту чат-бота Grok 4 от xAI. Новая версия атаки показала, что фильтры на основе ключевых слов или «распознавания намерений» легко обмануть в многоходовом диалоге, если контекст постепенно и незаметно смещать в опасную сторону.

Тема джейлбрейк-атак в ИИ сейчас особенно остра, поскольку ИИ-агенты и облачные LLM всё активнее применяются в корпоративной среде. Риски растут, и Echo Chamber — не единственная угроза. Например, специалисты Zenity Labs описали серию zero-click атак под общим названием AgentFlayer.

Они позволяют, например, встроить в безобидный документ на Google Drive скрытую инструкцию для чат-бота, подключённого к облачному хранилищу, — и тот сам «вытянет» API-ключи или другие секреты.

Другой вариант — заражённая задача в Jira, которая вынудит интегрированный с MCP код-редактор вытащить данные из репозитория. А в Microsoft Copilot Studio таким образом можно обмануть кастомного агента и заставить его выдать ценные сведения.

Эксперты предупреждают: подключение ИИ-моделей к внешним сервисам резко расширяет поверхность атаки. Здесь нет кликов по вредоносным ссылкам и загрузки файлов — агент выполняет всё сам.

В отчёте Trend Micro за первое полугодие 2025 года подчёркивается: противодействие таким атакам требует строгой фильтрации выходных данных, регулярного тестирования систем и баланса между функциональностью ИИ и его безопасностью.

 

Не так давно мы публиковали статью «Основные угрозы для чат-ботов и способы защиты от них», где рассказывали об инъекциях стимула (Prompt Injection) и обходе ограничений.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Осуждённый участник REvil обвинил власти Россию в атаке на Kaseya

На конференции DEF CON 33 прозвучало неожиданное заявление от человека, причастного к одной из самых громких кибератак последних лет. Осуждённый участник группировки REvil Ярослав Васинский обвинил российские власти в причастности к атаке на компанию Kaseya в 2021 году.

Об этом рассказали Джон ДиМаджио, главный стратег по разведке угроз в Analyst1, и Джон Фоккер, руководитель направления киберразведки в Trellix, во время своей сессии 9 августа.

Они напомнили, что REvil — одна из самых известных кибербанд, работающих по схеме «вымогатель как услуга» (ransomware-as-a-service, RaaS), за плечами которой атаки на Acer, мясоперерабатывающего гиганта JBS S.A. и десятки других крупных компаний.

Но в центре обсуждения оказалась именно атака на Kaseya — поставщика ПО для удалённого управления ИТ-инфраструктурой.

В июле 2021 года REvil использовала уязвимость в продукте Kaseya VSA и через цепочку поставок заразила более тысячи компаний по всему миру. Позже, в ноябре, Минюст США обнародовал обвинения против двух предполагаемых участников — россиянина Евгения Полянина и Ярослава Васинского. Последнего арестовали в Польше, а в 2022 году экстрадировали в США.

В 2024 году американский суд приговорил Васинского к более чем 13 годам тюрьмы и штрафу свыше $16 миллионов за участие в более чем 2,5 тысячах атак с общими требованиями выкупа на сумму более $700 миллионов.

И вот теперь, спустя годы, он утверждает, что за операцией против Kaseya якобы стояли российские власти.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru