Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Исследователи из Имперского колледжа Лондона показали лёгкий способ обмануть систему сканирования медиаконтента. В качестве примера взяли технологию Apple CSAM, которая создала немало шума летом этого года.

Напомним, что CSAM (Child Sexual Abuse Material) была разработана с целью вычислять и пресекать распространение порнографических материалов, в которых фигурируют несовершеннолетние лица.

Из-за большого давления пользователей и специалистов по защите информации техногиганту из Купертино пришлось отложить введение этой функции в эксплуатацию до 2022 года. За это время разработчики обещали усовершенствовать CSAM и сделать саму технологию более прозрачной.

Основная идея разработки Apple опирается на сравнение хешей изображений, которые передаются с помощью iOS-устройств, с базой данных NCMEC и других организаций, занимающихся вопросами защиты детей.

Если CSAM найдёт совпадения, специалисты Apple изучат содержимое подозрительных материалов, а затем, если алерт подтвердится, передадут правоохранителям информацию о распространении детской порнографии.

Однако на симпозиуме USENIX специалисты продемонстрировали интересный способ, доказывающий, что ни Apple CSAM, ни любая другая аналогичная система не способна эффективно детектировать нелегальный контент.

По словам исследователей, алгоритмы детектирования достаточно легко обмануть — в 99,9% случаев, причём для этого даже не потребуется визуально менять изображения. Сам фокус заключается в использовании специального хеш-фильтра, который заставит систему сканирования воспринимать этот контент иначе. Для глаза человека разница будет незаметна:

 

В отчёте (PDF) специалисты указали на контрмеры — увеличить порог срабатывания, однако это неизбежно приведёт к ложноположительным детектам.

Напомним, в прошлом месяце стало известно, что Евросоюз уже давно хотел сканировать фото на iPhone пользователей, ещё до самого анонса технологии Apple CSAM.

Android-приложения для психического здоровья сливают ваши данные

Популярные мобильные приложения для психического здоровья с миллионами установок в Google Play Store оказались небезопасными. Исследователи из компании Oversecured обнаружили в десяти таких приложениях в общей сложности 1 575 уязвимостей, степень риска которых варьируется от низкой до высокой.

Речь идёт о трекерах настроения, сервисах для управления депрессией и тревожностью, онлайн-терапии и даже чат-ботах, которые позиционируются как «виртуальные психологи».

Некоторые из них имеют более 10 млн загрузок. В одном из приложений специалисты нашли свыше 85 уязвимостей средней и высокой степени опасности.

Критических проблем выявлено не было, но даже обнаруженные баги могут привести к утечке логинов, подмене уведомлений, HTML-инъекциям или раскрытию местоположения пользователя. В отдельных случаях злоумышленник теоретически может получить доступ к данным о «сеансах терапии».

Особую тревогу вызывает характер обрабатываемой информации. Такие приложения хранят конфиденциальные данные: записи сессий, заметки по когнитивно-поведенческой терапии, трекеры настроения, сведения о приёме лекарств и даже маркеры самоповреждений.

По словам основателя Oversecured Сергея Тошина, на теневых форумах терапевтические записи могут стоить $1000 и более за один профиль. Это значительно дороже, чем данные банковских карт.

Среди типичных проблем присутствует некорректная обработка пользовательских URI, что в одном случае позволяло открыть внутренние компоненты приложения, не предназначенные для внешнего доступа. Если такие компоненты работают с токенами аутентификации и сессионными данными, это потенциально открывает путь к чужим записям терапии.

В других приложениях данные хранились локально таким образом, что к ним могли получить доступ другие программы на устройстве. Также исследователи нашли конфигурационные данные в открытом виде, включая URL баз данных Firebase и API-эндпоинты.

Некоторые разработчики использовали небезопасный класс java.util.Random для генерации токенов или ключей шифрования, а большинство приложений не имели даже базовой защиты от работы на рутированных устройствах.

Шесть из десяти проверенных приложений не содержали уязвимостей высокой степени риска, однако имели проблемы средней важности, которые в целом ослабляют защиту.

RSS: Новости на портале Anti-Malware.ru