В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

Исследователи из Adversa AI сообщили о необычной уязвимости в GPT-5, которая получила название PROMISQROUTE. Суть проблемы в том, что ответы пользователю не всегда формируются самой GPT-5: внутри работает специальный «роутер», который решает, какой именно из моделей поручить обработку запроса. И это может быть как GPT-5 Pro, так и GPT-4o, GPT-3.5 или облегчённые версии GPT-5.

Такой подход экономит ресурсы: сложные задачи достаются самой «тяжёлой» модели, а простые — более лёгким и дешёвым. По оценкам Adversa, это может экономить OpenAI до 1,86 млрд долларов в год. Но у схемы есть обратная сторона — роутер можно обмануть.

Учёные выяснили, что с помощью определённых «триггерных» фраз пользователь может заставить систему перенаправить свой запрос на менее защищённую модель.

Это значит, что старые джейлбрейки, которые GPT-5 сама по себе блокировала, снова начинают работать — если запрос сначала попадает к «слабому звену».

Опасность здесь не только в том, что повышается риск галлюцинаций. Хакер может сознательно подменить модель и добиться выполнения инструкций, которые GPT-5 Pro обычно отвергла бы. Таким образом, уязвимость сводит защиту всей системы к уровню самой уязвимой модели внутри.

Решение вроде бы простое — отключить маршрутизацию и использовать всегда GPT-5 Pro. Но это замедлит работу и сделает её дороже. А бизнес-модель OpenAI построена на скорости и оптимизации расходов.

«GPT-5 нужно делать безопаснее — либо поставить защиту перед роутером, либо довести все модели до единого уровня безопасности. Лучше и то, и другое», — резюмировал глава Adversa AI Алекс Поляков.

Напомним, Недавно мы писали о способе обойти защиту GPT-5 с помощью скрытых историй.

Иностранные сайты хотят обязать пускать россиян только по номеру телефона

Минцифры предлагает разрешить иностранным сайтам и приложениям аутентифицировать пользователей в России только по номеру телефона. Почта, соцсети и другие привычные способы входа могут отправиться на скамейку запасных.

Требование вошло в проект третьего пакета мер против мошенников «Антифрод 3.0», пишут «Ведомости».

Одной СМС дело не ограничится. Владельцев зарубежных ресурсов хотят обязать три года хранить сведения о регистрации пользователей, входах в аккаунты и их удалении. По запросу эти данные придётся передавать российским правоохранительным органам.

Поправки предлагается внести в статью 8 закона «Об информации». Пока это только проект, направленный на согласование в профильные ведомства. Внести весь пакет в Госдуму правительство рассчитывает осенью 2026 года.

Эксперты предупреждают: специально перестраивать аутентификацию ради одного рынка захотят не все. Международным компаниям придётся выделять российских пользователей среди остальных и создавать для них отдельный сценарий входа. Часть сервисов может решить, что игра не стоит свеч, а часть пользователей — что аккаунт не стоит телефонного номера.

Остаётся и главный вопрос: кого именно считать иностранным ресурсом, работающим в России. Например, Facebook и Instagram (Meta, а также принадлежащие ей социальные сети признаны экстремистскими, их деятельность в России запрещена) уже заблокированы и легально в стране не работают, поэтому требовать от них соблюдения новых правил будет затруднительно.

В «Антифрод 3.0» входят и другие меры. Среди них — запрет указывать персональные данные получателя в СМС-рассылках и расширение перечня сведений, которые операторы связи должны хранить три года и выдавать спецслужбам.

Пока власти собираются бороться с мошенниками, иностранным сервисам предлагают простую развилку: привязать российских пользователей к телефонам или, возможно, отвязаться от России самим.

RSS: Новости на портале Anti-Malware.ru