Android под защитой ИИ: Google заблокировала 1,75 млн приложений

Android под защитой ИИ: Google заблокировала 1,75 млн приложений

Android под защитой ИИ: Google заблокировала 1,75 млн приложений

Google всё активнее использует ИИ для защиты Android. Как можно судить по свежему отчёту компании, ставки в этой игре только растут. Причина проста: злоумышленники тоже активно применяют ИИ для создания и маскировки зловреда, так что борьба идёт «алгоритм на алгоритм».

По словам вице-президента Google по безопасности приложений и экосистемы Виджайи Казы, в 2025 году компания не допустила публикации более 1,75 млн приложений, нарушающих правила Play Store.

Кроме того, было заблокировано свыше 80 тыс. аккаунтов разработчиков, пытавшихся распространять вредоносные программы.

Ключевую роль в этом сыграли новые модели машинного обучения, встроенные прямо в процесс проверки приложений. Люди по-прежнему участвуют в ревью, но ИИ помогает быстрее находить сложные вредоносные паттерны, которые сложно заметить при ручном анализе кода.

Google также усилила контроль за приватностью. За год было отклонено более 255 тыс. приложений, которые запрашивали избыточные разрешения — например, доступ к геолокации или фотографиям там, где это явно не нужно (вроде калькулятора). Разработчикам при этом помогают инструменты вроде Play Policy Insights в Android Studio, которые подсказывают о возможных нарушениях ещё на этапе написания кода.

 

Отдельное направление — борьба со спамом и накрутками. В 2025 году Google заблокировала 160 млн фейковых оценок и отзывов, включая организованные кампании по накрутке рейтинга. По данным компании, это помогло предотвратить в среднем падение рейтинга на 0,5 звезды у атакованных приложений.

За пределами магазина приложений защита тоже усилилась. Google Play Protect — встроенный в Android сканер — теперь проверяет более 350 млрд приложений ежедневно. В 2025 году система в режиме реального времени обнаружила 27 млн новых вредоносных приложений, установленных не из Play Store.

Улучшенная защита от мошенничества теперь блокирует установку приложений из браузеров и мессенджеров, если они запрашивают опасные разрешения. Функция уже доступна в 185 странах и охватывает 2,8 млрд устройств. По данным Google, за год она предотвратила 266 млн рискованных попыток установки.

Также компания усложнила жизнь телефонным мошенникам. Теперь, если пользователь находится во время звонка, Play Protect не позволит отключить защиту (именно к этому часто склоняют жертв злоумышленники).

Атакующие прячут зловред в эмодзи и обходят ИИ-фильтры

Киберпреступники стали чаще использовать эмодзи и другие особенности Unicode, чтобы прятать вредоносный код, обходить фильтры и ускользать даже от ИИ-защиты. Новый тренд уже получил название emoji smuggling — «контрабанда через эмодзи».

Суть проста: злоумышленники кодируют команды и данные в символах, которые выглядят безобидно.

Это могут быть эмодзи, похожие друг на друга буквы из разных алфавитов (гомоглифы), невидимые символы Unicode или специальные знаки, меняющие порядок отображения текста. В итоге человек видит одно, а система обрабатывает совсем другое.

Один из популярных приёмов — подмена символов в доменах. Например, «apple.com» можно зарегистрировать с кириллическими буквами, которые визуально почти не отличаются от латиницы. В браузере адрес выглядит привычно, но ведёт на фишинговую страницу. Такие IDN-гомографические атаки известны давно, но сейчас они становятся частью более сложных схем.

Другой класс трюков — невидимые символы вроде Zero Width Space (U+200B). Они не отображаются на экране, но меняют структуру строки. Это позволяет «сломать» простые сигнатурные фильтры и при этом сохранить работоспособность кода. Исследователи уже показали инструменты, с помощью которых можно спрятать целый JavaScript-модуль в «пустом» файле за счёт нулевой ширины символов.

Отдельная тема — использование эмодзи как контейнера для данных. За счёт особенностей Unicode, тегов и вариационных селекторов можно зашифровать команды внутри последовательности иконок. Для логов и систем мониторинга это выглядит как обычные смайлики, но специальный декодер превращает их, например, в инструкции «скачать», «удалить», «выполнить».

Особенно тревожит исследователей влияние таких техник на ИИ-системы. По данным Mindgard, FireTail и других компаний, Unicode-манипуляции и «эмодзи-контрабанда» позволяют обходить фильтры безопасности LLM почти со 100-процентной эффективностью. Скрытая нагрузка может активироваться после простой расшифровки внутри модели, даже если видимый текст выглядит безобидно.

Проблема в том, что полностью запретить Unicode невозможно: бизнес глобален, пользователи пишут на разных языках, а эмодзи стали частью повседневного общения. Поэтому эксперты рекомендуют не блокировать символы, а внедрять более глубокую нормализацию и проверку входных данных.

RSS: Новости на портале Anti-Malware.ru