Флагман от Huawei 5G Mate 30 Pro лишится приложений Google

Флагман от Huawei 5G Mate 30 Pro лишится приложений Google

Флагман от Huawei 5G Mate 30 Pro лишится приложений Google

Новый флагман от Huawei — 5G Mate 30 Pro выйдет на прилавки магазинов без установленных приложений американской корпорации Google. Это уже последствия наложенных США санкций: Запад считает, что китайская компания угрожает национальной безопасности.

Релиз Huawei Mate 30 Pro должен состояться в сентябре. Несмотря на 90-дневную отсрочку бана, которую США обещали Huawei, в Google заявили, что для новых продуктов китайского техногиганта сервисы американской компании поставляться не будут.

На деле это значит, что готовящийся к выходу Mate 30 не может продаваться с лицензированными приложениями от Google.

Это может стать серьезной преградой для Huawei, которая ещё на прошлой неделе заявила, что планирует поставлять смартфоны с установленной системой Android. Таким образом, компания фактически отказалась от идеи внедрения своей ОС — Harmony.

Однако среди пострадавших не только Huawei. Представители Google уверяют, что они хотят продолжить поставку сервисов и приложений техногиганту.

Несколько дней назад мы писали, что Huawei ведёт переговоры с Россией о возможности установки отечественной операционной системы Aurora на 360 тыс. планшетов, выпущенных китайской корпорацией. Предполагается, что с помощью этих устройств в следующем году Россия проведёт перепись населения.

Новый вектор ProAttack позволяет незаметно внедрять бэкдоры в LLM

Промпт-инжиниринг давно стал нормой при работе с большими языковыми моделями. Но, как выясняется, вместе с удобством он приносит и новую поверхность атаки. Исследователи представили вектор под названием ProAttack, который позволяет внедрять бэкдор в модель через промпты, причём делать это почти незаметно.

В тестах атака показывала эффективность, близкую к 100%, причём без классических красных флагов вроде странных токенов или подмены меток.

В обычных атаках на NLP-модели злоумышленники добавляют в данные подозрительные слова или фразы и меняют метки. Такие вещи уже научились отслеживать. 

ProAttack идёт другим путём. Вместо явных «триггеров» он использует разные промпты для обучающих данных:

  • для части данных (целевая категория) — вредоносный промпт;
  • для остальных — обычный, чистый.

 

При этом сами тексты выглядят нормально, а метки остаются корректными. В итоге модель учится ассоциировать конкретный промпт с нужным злоумышленнику результатом.

А дальше всё просто: на этапе использования достаточно подать вход с этим промптом, и бэкдор срабатывает.

Особенно опасно, что атака остаётся эффективной даже при небольшом количестве данных. В ряде случаев хватало буквально нескольких (около шести) «отравленных» примеров, чтобы внедрить бэкдор.

Метод протестировали на разных задачах, включая даже медицинские сценарии (например, суммаризацию радиологических отчётов). И там он тоже показал высокую эффективность, практически не ухудшая качество работы модели.

Исследователи проверили ProAttack против популярных методов защиты — ONION, SCPD, back-translation и fine-pruning. Ни один из них не смог полностью остановить атаку.

В качестве возможного решения предлагается использовать LoRA (parameter-efficient fine-tuning). Идея в том, что такие методы ограничивают количество параметров, которые модель может менять при дообучении. А значит, ей сложнее запомнить связь между триггером и целевым результатом.

RSS: Новости на портале Anti-Malware.ru