В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

В GPT-5 нашли уязвимость: ответы могут формировать более слабые модели

Исследователи из Adversa AI сообщили о необычной уязвимости в GPT-5, которая получила название PROMISQROUTE. Суть проблемы в том, что ответы пользователю не всегда формируются самой GPT-5: внутри работает специальный «роутер», который решает, какой именно из моделей поручить обработку запроса. И это может быть как GPT-5 Pro, так и GPT-4o, GPT-3.5 или облегчённые версии GPT-5.

Такой подход экономит ресурсы: сложные задачи достаются самой «тяжёлой» модели, а простые — более лёгким и дешёвым. По оценкам Adversa, это может экономить OpenAI до 1,86 млрд долларов в год. Но у схемы есть обратная сторона — роутер можно обмануть.

Учёные выяснили, что с помощью определённых «триггерных» фраз пользователь может заставить систему перенаправить свой запрос на менее защищённую модель.

Это значит, что старые джейлбрейки, которые GPT-5 сама по себе блокировала, снова начинают работать — если запрос сначала попадает к «слабому звену».

Опасность здесь не только в том, что повышается риск галлюцинаций. Хакер может сознательно подменить модель и добиться выполнения инструкций, которые GPT-5 Pro обычно отвергла бы. Таким образом, уязвимость сводит защиту всей системы к уровню самой уязвимой модели внутри.

Решение вроде бы простое — отключить маршрутизацию и использовать всегда GPT-5 Pro. Но это замедлит работу и сделает её дороже. А бизнес-модель OpenAI построена на скорости и оптимизации расходов.

«GPT-5 нужно делать безопаснее — либо поставить защиту перед роутером, либо довести все модели до единого уровня безопасности. Лучше и то, и другое», — резюмировал глава Adversa AI Алекс Поляков.

Напомним, Недавно мы писали о способе обойти защиту GPT-5 с помощью скрытых историй.

Опрос: половина россиян игнорирует риски утечек с фитнес-устройств

Каждый второй пользователь фитнес-браслетов, умных весов и других устройств для мониторинга здоровья опасается, что его данные могут оказаться у злоумышленников. К такому выводу пришли аналитики «Лаборатории Касперского» по итогам опроса.

В целом о безопасности информации переживают 65% россиян, которые пользуются спортивными гаджетами. При этом 47% прямо признаются: они боятся, что собранные устройствами данные могут попасть в чужие руки.

Больше всего пользователей волнуют личные сведения: ФИО, возраст, дата рождения (об этом сказали 74% опрошенных). Почти половина переживает за данные об устройстве (48%) и геолокации (43%). А каждый пятый опасается утечки информации о состоянии здоровья, которую собирают приложения и умные девайсы.

Главный страх — данные используют мошенники. 61% респондентов боятся, что злоумышленники получат доступ к другим важным аккаунтам. По 52% опасаются навязчивых звонков или попыток обмануть их родственников. 42% упоминают риск фишинга. Есть и более личные опасения: 22% не исключают шантажа, а 10% переживают, что кто-то из знакомых узнает подробности о здоровье, которыми они не готовы делиться.

При этом почти половина пользователей (45%) всё же предпринимают шаги для защиты. Например, 49% внимательно следят за тем, какие данные собирают приложения, и разрешают доступ только к необходимой информации. 63% запрещают передачу своих данных сторонним программам.

Около половины используют двухфакторную аутентификацию (51%), регулярно обновляют программное обеспечение и устанавливают защитные решения (по 45%). Треть обращает внимание на репутацию производителя или разработчика приложения перед установкой.

Как отмечает эксперт по кибербезопасности «Лаборатории Касперского» Андрей Сиденко, умные гаджеты, такие же цифровые устройства, как и смартфоны или ноутбуки, а значит, подвержены тем же рискам. Он рекомендует не делиться лишней конфиденциальной информацией, выдавать приложениям только необходимые разрешения и, по возможности, не публиковать автоматически данные о тренировках и маршрутах. Это поможет снизить вероятность того, что личная информация станет инструментом в руках мошенников.

Напомним, не так давно специалисты выяснили, что ряд фитнес-приложений вроде Strava сливает конфиденциальные данные пользователей даже в том случае, когда те настроили специальные «приватные зоны».

Показателен также случай, когда фитнес-приложение Fitify слило 138 тысяч фото юзеров в неглиже.

RSS: Новости на портале Anti-Malware.ru