Власти Китая побудили граждан установить уязвимое Android-приложение

Власти Китая побудили граждан установить уязвимое Android-приложение

В прошлом году власти Китая побудили граждан установить приложение JingWang, предназначенное для сканирования определенных файлов. Все бы ничего, однако это приложение передает данные без использования какого-либо шифрования.

В основном приложение установили жители Синьцзян-Уйгурского автономного района — региона на северо-западе Китая, который населен преимущественно мусульманами. Правительство фактически заставило жителей этого региона скачать проблемное Android-приложение.

Теперь же эксперты, внимательно изучив работу этого приложения, ужаснулись тому, насколько плохо оно защищает передачу данных. Специалисты говорят, что JingWang представляет собой часть политики Китая, подразумевающей наблюдение за гражданами, а также ограничение их свободы.

«Основываясь на результатах проведенного экспертами аудита, мы можем заявить, что приложение JingWang крайне небезопасно, разработано без учета защиты личной информации пользователей», — заявил Адам Линн, директор по исследованиям Фонда открытых технологий (OTF).

Сообщается, что для принудительной загрузки приложения гражданами власти разослали сообщение через WeChat, содержащее QR-код, с помощью которого можно было загрузить JingWang.

Судя по всему, это еще один шаг в ущемлении прав и свобод мусульманской части населения Китая. Ранее The New York Times сообщала, что население Синьцзян-Уйгурского автономного района подвергается различным методам наблюдения. К ним относятся рентгеновское сканирование в супермаркетах и банках, отслеживание распознавания лиц и связывание всех видов информации с идентификационным номером.

Anti-Malware TelegramПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Исследователи спрятали зловреда в модели нейросети, и это сработало

В Университете Китайской академии наук убедились, что использование технологии нейронных сетей для доставки вредоносного кода способно надежно скрыть его от антивирусов. Исследование показало, что в модели можно безбоязненно подменить до половины искусственных нейронов — потеря производительности составит менее 7%, и защитные сканеры вряд ли заметят присутствие зловреда.

Для экспериментов была выбрана (PDF) сверточная нейросеть AlexNet — классическая модель, зачастую используемая для проверки эффективности алгоритмов машинного зрения. Вооружившись несколькими образцами реальных вредоносов, исследователи по-разному прятали их в скрытых слоях сети, фиксируя процент замен и точность предсказаний при прогоне контрольных изображений.

В итоге оказалось, что в 178М-байтовую модель AlexNet можно внедрить до 36,9МБ стороннего кода с потерей производительности менее 1%. Проверка результатов с помощью 58 антивирусов из коллекции VirusTotal не дала ни одного положительного срабатывания.

Для проведения атаки злоумышленнику, со слов исследователей, нужно вначале построить нейросеть и потренировать ее на заранее подготовленном наборе данных. Можно также приобрести уже обученный образец, внедрить вредоносный код и убедиться, что его присутствие не влечет неприемлемую потерю производительности. Подготовленная модель публикуется в общедоступном хранилище и начинает раздаваться, например, как апдейт в рамках атаки на цепочку поставок.

Предложенный подход предполагает дизассемблирование вредоносного кода перед встраиванием в искусственные нейроны. Обратную сборку выполняет программа-загрузчик, запущенная на целевом устройстве. Исполнение зловреда при этом можно предотвратить, если настройки атакуемой системы предусматривают верификацию загружаемого ИИ-контента. Выявить непрошеного гостя сможет также статический или динамический анализ кода.

«Обнаружить такого зловреда с помощью антивирусов в настоящее время затруднительно, — комментирует известный ИБ-специалист Лукаш Олейник (Lukasz Olejnik). — Но причина лишь в том, что никому в голову не приходит искать его в подобном месте».

Эксперты предупреждают, что рост популярности технологии нейросетей открывает новые возможности для злоупотреблений. Ее можно использовать, например, для взлома CAPTCHA, троллинга, шантажа и мошенничества, а также засева бэкдоров (PDF). Исследование возможных сценариев абьюза ИИ — залог успешной борьбы с этой ИБ-угрозой.

Anti-Malware TelegramПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru