В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

Исследователи из Adversa AI сообщили о необычной уязвимости в GPT-5, которая получила название PROMISQROUTE. Суть проблемы в том, что ответы пользователю не всегда формируются самой GPT-5: внутри работает специальный «роутер», который решает, какой именно из моделей поручить обработку запроса. И это может быть как GPT-5 Pro, так и GPT-4o, GPT-3.5 или облегчённые версии GPT-5.

Такой подход экономит ресурсы: сложные задачи достаются самой «тяжёлой» модели, а простые — более лёгким и дешёвым. По оценкам Adversa, это может экономить OpenAI до 1,86 млрд долларов в год. Но у схемы есть обратная сторона — роутер можно обмануть.

Учёные выяснили, что с помощью определённых «триггерных» фраз пользователь может заставить систему перенаправить свой запрос на менее защищённую модель.

Это значит, что старые джейлбрейки, которые GPT-5 сама по себе блокировала, снова начинают работать — если запрос сначала попадает к «слабому звену».

Опасность здесь не только в том, что повышается риск галлюцинаций. Хакер может сознательно подменить модель и добиться выполнения инструкций, которые GPT-5 Pro обычно отвергла бы. Таким образом, уязвимость сводит защиту всей системы к уровню самой уязвимой модели внутри.

Решение вроде бы простое — отключить маршрутизацию и использовать всегда GPT-5 Pro. Но это замедлит работу и сделает её дороже. А бизнес-модель OpenAI построена на скорости и оптимизации расходов.

«GPT-5 нужно делать безопаснее — либо поставить защиту перед роутером, либо довести все модели до единого уровня безопасности. Лучше и то, и другое», — резюмировал глава Adversa AI Алекс Поляков.

Напомним, Недавно мы писали о способе обойти защиту GPT-5 с помощью скрытых историй.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Мошенники убеждают россиян снимать самозапрет на кредиты от лица банков

С сентября оформить самозапрет на выдачу кредитов можно не только онлайн через портал Госуслуг, но и лично — в МФЦ. Такой возможностью уже воспользовались 190 тысяч человек. Однако мошенники находят новые уловки, помогающие обойти защитные меры.

Всего за прошлый месяц около миллиона россиян решили «запретить» себе кредиты, а с марта, когда услуга заработала, общее число заявлений перевалило за 14 миллионов.

Теперь установить самозапрет могут даже те, у кого нет аккаунта на Госуслугах или устройств для входа в систему.

Это, по словам экспертов, повысило защищённость граждан от кредитного мошенничества. Тем не менее злоумышленники не отступают — теперь они пытаются убедить людей самостоятельно снять самозапрет.

По данным Национального бюро кредитных историй (НБКИ), в разных регионах доля тех, кто оформляет услугу через МФЦ, сильно различается: в Приморском крае — около 40%, а в Московской области — всего 5,5%. При этом чаще всего россияне обращаются в МФЦ не для установки, а для снятия запрета.

По словам специалистов, мошенники действуют всё изощрённее. Они звонят от имени банков, налоговой службы или портала Госуслуг, сообщают о «технической ошибке» или «необходимости подтвердить льготу» и просят человека снять самозапрет.

Иногда злоумышленники присылают ссылки на поддельные сайты, визуально копирующие интерфейс Госуслуг, где жертва сама вводит свои данные и подтверждает снятие ограничений.

Эксперт по кибербезопасности компании Angara Security Никита Новиков объясняет: цель мошенников не только оформить кредит, но и получить персональные данные. После этого они могут использовать их для создания подставных счетов или займов.

В НБКИ напоминают: если поступил звонок с просьбой снять самозапрет — разговор нужно сразу прекратить и сообщить о нём в полицию. Проверить свою кредитную историю можно самостоятельно, чтобы убедиться, что злоумышленники не успели оформить заём от вашего имени.

Банк России уточняет, что самозапрет вступает в силу на следующий день после подачи заявления и снимается не раньше второго календарного дня. Услуга бесплатная, а инициировать её может только сам человек — ни банки, ни налоговая, ни Госуслуги не делают этого по телефону.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru