В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

Исследователи из Adversa AI сообщили о необычной уязвимости в GPT-5, которая получила название PROMISQROUTE. Суть проблемы в том, что ответы пользователю не всегда формируются самой GPT-5: внутри работает специальный «роутер», который решает, какой именно из моделей поручить обработку запроса. И это может быть как GPT-5 Pro, так и GPT-4o, GPT-3.5 или облегчённые версии GPT-5.

Такой подход экономит ресурсы: сложные задачи достаются самой «тяжёлой» модели, а простые — более лёгким и дешёвым. По оценкам Adversa, это может экономить OpenAI до 1,86 млрд долларов в год. Но у схемы есть обратная сторона — роутер можно обмануть.

Учёные выяснили, что с помощью определённых «триггерных» фраз пользователь может заставить систему перенаправить свой запрос на менее защищённую модель.

Это значит, что старые джейлбрейки, которые GPT-5 сама по себе блокировала, снова начинают работать — если запрос сначала попадает к «слабому звену».

Опасность здесь не только в том, что повышается риск галлюцинаций. Хакер может сознательно подменить модель и добиться выполнения инструкций, которые GPT-5 Pro обычно отвергла бы. Таким образом, уязвимость сводит защиту всей системы к уровню самой уязвимой модели внутри.

Решение вроде бы простое — отключить маршрутизацию и использовать всегда GPT-5 Pro. Но это замедлит работу и сделает её дороже. А бизнес-модель OpenAI построена на скорости и оптимизации расходов.

«GPT-5 нужно делать безопаснее — либо поставить защиту перед роутером, либо довести все модели до единого уровня безопасности. Лучше и то, и другое», — резюмировал глава Adversa AI Алекс Поляков.

Напомним, Недавно мы писали о способе обойти защиту GPT-5 с помощью скрытых историй.

Cloud.ru добавил внешние языковые модели в Foundation Models

Cloud.ru расширил сервис Foundation Models: теперь в нём доступны не только модели, развернутые в собственной инфраструктуре компании, но и внешние большие языковые модели от глобальных провайдеров, включая Alibaba, DeepSeek, Z.ai и других.

Пользователи смогут выбирать открытые и проприетарные модели под разные задачи, подключать их через единый API или веб-интерфейс, сравнивать параметры и стоимость, а платить — за фактическое использование.

В Cloud.ru называют Foundation Models единой точкой доступа к широкому набору моделей. В компании также отмечают, что сервис должен стать альтернативой OpenRouter, который ушёл с российского рынка в июне 2026 года.

Отдельный акцент сделан на работе с данными. В платформе предусмотрены инструменты контроля и безопасности, включая Guardrails. Они позволяют проверять запросы, маскировать корпоративные и пользовательские данные и снижать риск утечек при использовании сторонних моделей. Если система обнаруживает чувствительные данные, такие случаи фиксируются в мониторинговых алертах.

При этом Cloud.ru продолжит предлагать модели, развернутые в собственной инфраструктуре, для сценариев, где важно соблюдение требований 152-ФЗ. Внешние модели добавляются как отдельный вариант для задач, где нужен более широкий выбор или быстрый доступ к новым решениям глобальных провайдеров.

Сейчас в каталоге Foundation Models представлено более 20 больших языковых моделей из семейств GLM, Qwen, DeepSeek, MiniMax, GigaChat и других. Среди внешних моделей уже доступна GLM-5.2, вышедшая на мировой рынок в конце июня и привлекшая внимание результатами в задачах кодинга и агентных сценариях.

Сервис Foundation Models был запущен в коммерческую эксплуатацию в ноябре 2025 года. С тех пор модели обработали 450 млрд токенов. Среди наиболее популярных сценариев использования в Cloud.ru называют разработку, клиентскую поддержку, продажи и создание контента.

По сути, Cloud.ru расширяет витрину моделей: часть можно использовать внутри собственной инфраструктуры компании, часть — подключать у внешних провайдеров, но через единый интерфейс и с дополнительным контролем данных.

RSS: Новости на портале Anti-Malware.ru