Новый джейлбрейк обходит защиту GPT-5 с помощью скрытых историй

Новый джейлбрейк обходит защиту GPT-5 с помощью скрытых историй

Новый джейлбрейк обходит защиту GPT-5 с помощью скрытых историй

Исследователи в области кибербезопасности нашли новый способ обойти защиту и этические фильтры в свежей версии GPT-5 от OpenAI. Метод, по словам специалистов платформы NeuralTrust, сочетает приём Echo Chamber с так называемым «сюжетным управлением» — и позволяет заставить модель выдавать инструкции, которые она обычно блокирует.

Суть техники в том, чтобы «отравить» контекст разговора незаметно для фильтров. Сначала создаётся цепочка нейтральных на вид фраз с нужными ключевыми словами, потом они развиваются в виде истории.

Так модель шаг за шагом подводят к нежелательному ответу, не формулируя прямых запросов. Например, вместо того чтобы спросить, как сделать «коктейль Молотова», предлагается придумать предложения с набором слов «cocktail, story, survival, molotov, safe, lives» — а дальше история постепенно выводит на нужные инструкции.

NeuralTrust отмечает, что Echo Chamber уже применялся раньше — в том числе в связке с техникой Crescendo, чтобы обходить защиту чат-бота Grok 4 от xAI. Новая версия атаки показала, что фильтры на основе ключевых слов или «распознавания намерений» легко обмануть в многоходовом диалоге, если контекст постепенно и незаметно смещать в опасную сторону.

Тема джейлбрейк-атак в ИИ сейчас особенно остра, поскольку ИИ-агенты и облачные LLM всё активнее применяются в корпоративной среде. Риски растут, и Echo Chamber — не единственная угроза. Например, специалисты Zenity Labs описали серию zero-click атак под общим названием AgentFlayer.

Они позволяют, например, встроить в безобидный документ на Google Drive скрытую инструкцию для чат-бота, подключённого к облачному хранилищу, — и тот сам «вытянет» API-ключи или другие секреты.

Другой вариант — заражённая задача в Jira, которая вынудит интегрированный с MCP код-редактор вытащить данные из репозитория. А в Microsoft Copilot Studio таким образом можно обмануть кастомного агента и заставить его выдать ценные сведения.

Эксперты предупреждают: подключение ИИ-моделей к внешним сервисам резко расширяет поверхность атаки. Здесь нет кликов по вредоносным ссылкам и загрузки файлов — агент выполняет всё сам.

В отчёте Trend Micro за первое полугодие 2025 года подчёркивается: противодействие таким атакам требует строгой фильтрации выходных данных, регулярного тестирования систем и баланса между функциональностью ИИ и его безопасностью.

 

Не так давно мы публиковали статью «Основные угрозы для чат-ботов и способы защиты от них», где рассказывали об инъекциях стимула (Prompt Injection) и обходе ограничений.

Выручка VK Tech выросла на 58,9% и до 4,3 млрд рублей за квартал

VK Tech опубликовала неаудированные финансовые результаты за первый квартал 2026 года. Выручка компании выросла на 58,9% год к году и достигла 4,3 млрд рублей против 2,7 млрд рублей годом ранее. Скорректированная EBITDA увеличилась скромнее — на 8,8%, до 280 млн рублей.

Операционные расходы при этом выросли на 64,2%, до 4 млрд рублей. В компании объясняют это, в частности, снижением доли капитализируемых затрат по мере взросления продуктового портфеля.

Основную часть выручки VK Tech составляют регулярные поступления. Рекуррентная выручка выросла на 84,7% год к году, до 3,7 млрд рублей. Её доля в общей выручке достигла 87%, что на 12,1 процентного пункта выше показателя прошлого года.

Рост обеспечили как крупные заказчики, так и клиенты среднего и малого бизнеса. Выручка от крупных клиентов увеличилась на 40,7%, а от среднего и малого бизнеса — на 93,6%.

Самым быстрорастущим направлением стали сервисы продуктивности VK WorkSpace. Их выручка выросла в 2,3 раза и составила 1,9 млрд рублей. В компании связывают динамику с ростом продаж по облачной модели: выручка On-Cloud в этом направлении увеличилась почти втрое. Средняя ежемесячная аудитория активных пользователей платных учётных записей On-Cloud выросла на 23%.

Выручка направления «Облачная платформа» увеличилась на 19%, до 1,5 млрд рублей. В его состав входит VK Cloud — платформа с облачными сервисами для ИТ-инфраструктуры, разработки и работы с данными.

Дата-сервисы принесли 318 млн рублей, что на 58% больше, чем годом ранее. Рост обеспечили Tarantool и VK Data Platform: их выручка увеличилась в 3,3 раза.

Бизнес-приложения показали выручку 409 млн рублей. В это направление входят решения для налогового мониторинга, анализа бизнес-процессов и автоматизации HR-функций. При этом значительная часть продаж таких продуктов приходится на модель On-Premise, выручка по которой обычно формируется во втором полугодии.

С начала 2026 года VK Tech выделила ИИ-решения в отдельное направление. В первом квартале оно принесло 185 млн рублей. К этому блоку относится VK AI Space — платформа для разработки и запуска ИИ-агентов в защищённом контуре клиента.

В марте VK Tech также приобрела CedrusData, разработчика решений для работы с большими данными. В компании рассчитывают использовать эту сделку для развития продуктов в области хранения, обработки и анализа данных, а также ИИ.

Среди заметных запусков и обновлений первого квартала — механизм автоматического охлаждения данных в Tarantool Column Store, запуск Registry для хранения артефактов разработки, а также защита бэкапов в VK Cloud от удаления и шифрования вирусами-вымогателями.

RSS: Новости на портале Anti-Malware.ru