Ошибочная раскладка помогла обойти первый рубеж защиты GPT-6 Astra

Ошибочная раскладка помогла обойти первый рубеж защиты GPT-6 Astra

Ошибочная раскладка помогла обойти первый рубеж защиты GPT-6 Astra

Разработчик под ником vechen обнаружил странность в GPT-6 Astra: модель понимает русский и украинский текст, случайно набранный в английской раскладке, но система предварительной модерации может увидеть в нём лишь безобидную кашу из букв.

В опубликованном эксперименте GPT-6 Astra High без дополнительных инструкций распознала смысл фразы, введённой латиницей вместо кириллицы.

Затем исследователь проверил слова и запросы, которые потенциально должны привлекать внимание защитных механизмов. В одном из тестов модель согласилась помочь со взломом сайта под предлогом проверки собственного ресурса, хотя аналогичный запрос в нормальной раскладке должен проходить более строгую проверку.

Причина, предположительно, в разделении системы на несколько уровней. Сначала входной фильтр анализирует текст пользователя, после чего сама модель интерпретирует запрос и формирует ответ.

 

Впрочем, до полноценного джейлбрейка не дошло. Проверка «Код.ру» показала, что неправильная раскладка действительно может помочь опасному запросу добраться до модели, но финальный фильтр блокирует запрещённый ответ.

Метод работает не со всеми языковыми парами. Кириллический текст, набранный латиницей, Astra распознаёт стабильно, а сочетание английской и турецкой раскладок в тестах не сработало. Похожее поведение исследователь заметил и у Fable 5.

Напомним, на прошлой неделе мы писали, что первые пользователи GPT-6 Astra заметили, что модель распараллеливает задачи и нагружает компьютеры кучей процессов.

Apple может разрешить заменить Siri на Claude или ChatGPT в iOS 27

В коде iOS 27 и macOS 27 обнаружили возможность выбора стороннего ИИ-ассистента вместо Siri AI. В демонстрации разработчик PDFU назначил основным помощником Claude. Обнаруженный механизм позволяет указать предпочтительного ИИ-ассистента в системных настройках.

Теоретически его место смогут занять Claude, ChatGPT и другие совместимые сервисы. Пользователю не придётся отдельно открывать приложение чат-бота: выбранная модель сможет работать как системный помощник.

Пока функция существует только внутри кода и активировать её обычным способом нельзя. Apple её не анонсировала, список поддерживаемых сервисов не раскрыла и вообще не обещала, что настройка доберётся до публичного релиза.

Появление такой возможности выглядело бы заметным разворотом для Apple, которая традиционно объясняет ограничения сторонних приложений заботой о безопасности и конфиденциальности.

Однако компания уже интегрирует внешние модели в собственную ИИ-систему, а код iOS 27 указывает на следующий шаг: пользователь сможет выбирать не запасного консультанта, а основного собеседника.

 

Впрочем, свобода выбора может оказаться географически дозированной. По предположению 9to5Mac, настройку способны включить только в Евросоюзе, где Apple уже пришлось открыть iOS для альтернативных магазинов приложений, браузерных движков и платёжных сервисов.

Если функция всё же выйдет глобально, пользователи получат выбор между экосистемой Apple и более привычными ИИ-моделями. А Siri — редкую для системного приложения мотивацию становиться лучше.

RSS: Новости на портале Anti-Malware.ru