В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

Исследователи из Adversa AI сообщили о необычной уязвимости в GPT-5, которая получила название PROMISQROUTE. Суть проблемы в том, что ответы пользователю не всегда формируются самой GPT-5: внутри работает специальный «роутер», который решает, какой именно из моделей поручить обработку запроса. И это может быть как GPT-5 Pro, так и GPT-4o, GPT-3.5 или облегчённые версии GPT-5.

Такой подход экономит ресурсы: сложные задачи достаются самой «тяжёлой» модели, а простые — более лёгким и дешёвым. По оценкам Adversa, это может экономить OpenAI до 1,86 млрд долларов в год. Но у схемы есть обратная сторона — роутер можно обмануть.

Учёные выяснили, что с помощью определённых «триггерных» фраз пользователь может заставить систему перенаправить свой запрос на менее защищённую модель.

Это значит, что старые джейлбрейки, которые GPT-5 сама по себе блокировала, снова начинают работать — если запрос сначала попадает к «слабому звену».

Опасность здесь не только в том, что повышается риск галлюцинаций. Хакер может сознательно подменить модель и добиться выполнения инструкций, которые GPT-5 Pro обычно отвергла бы. Таким образом, уязвимость сводит защиту всей системы к уровню самой уязвимой модели внутри.

Решение вроде бы простое — отключить маршрутизацию и использовать всегда GPT-5 Pro. Но это замедлит работу и сделает её дороже. А бизнес-модель OpenAI построена на скорости и оптимизации расходов.

«GPT-5 нужно делать безопаснее — либо поставить защиту перед роутером, либо довести все модели до единого уровня безопасности. Лучше и то, и другое», — резюмировал глава Adversa AI Алекс Поляков.

Напомним, Недавно мы писали о способе обойти защиту GPT-5 с помощью скрытых историй.

Банк России пообещал владельцам цифровых рублей банковскую тайну

Сведения о цифровых рублях будут защищены банковской тайной наравне с информацией об обычных счетах. Баланс кошелька, переводы и данные о покупках не станут публиковаться или раздаваться посторонним, заявила зампредседателя Банка России Зульфия Кахруманова.

В интервью каналу «Простая экономика» она подчеркнула, что правила конфиденциальности распространяются на новую форму российской валюты в полном объёме.

Другими словами, цифровой рубль не должен превращаться в публичную бухгалтерскую книгу, где любой желающий увидит, сколько денег у гражданина и куда он их потратил.

Однако конфиденциальность не означает абсолютную невидимость для финансового контроля. Все операции будут проходить через антифрод-системы и механизмы противодействия отмыванию преступных доходов. Если трансакция покажется подозрительной, банк сможет запросить у клиента подтверждение.

Массовое внедрение цифрового рубля начнётся 1 сентября 2026 года. Поддержать операции первыми должны крупнейшие банки, а принимать оплату — торговые компании с годовой выручкой более 120 млн рублей.

С сентября 2027 года требование распространится на организации с выручкой свыше 30 млн рублей, а ещё через год — на остальных участников рынка.

Для оплаты покупателю потребуется открыть цифровой кошелёк через банковское приложение, считать универсальный QR-код и подтвердить операцию.

Цифровой рубль при этом не заменяет наличные и обычные безналичные деньги, а становится третьей формой национальной валюты.

Напомним, на днях мы писали, что россиянам не придётся платить комиссии за операции с цифровым рублём. Переводы и платежи для граждан будут полностью бесплатными, заявила директор департамента национальной платёжной системы ЦБ Алла Бакина.

RSS: Новости на портале Anti-Malware.ru