Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Исследователи из Имперского колледжа Лондона показали лёгкий способ обмануть систему сканирования медиаконтента. В качестве примера взяли технологию Apple CSAM, которая создала немало шума летом этого года.

Напомним, что CSAM (Child Sexual Abuse Material) была разработана с целью вычислять и пресекать распространение порнографических материалов, в которых фигурируют несовершеннолетние лица.

Из-за большого давления пользователей и специалистов по защите информации техногиганту из Купертино пришлось отложить введение этой функции в эксплуатацию до 2022 года. За это время разработчики обещали усовершенствовать CSAM и сделать саму технологию более прозрачной.

Основная идея разработки Apple опирается на сравнение хешей изображений, которые передаются с помощью iOS-устройств, с базой данных NCMEC и других организаций, занимающихся вопросами защиты детей.

Если CSAM найдёт совпадения, специалисты Apple изучат содержимое подозрительных материалов, а затем, если алерт подтвердится, передадут правоохранителям информацию о распространении детской порнографии.

Однако на симпозиуме USENIX специалисты продемонстрировали интересный способ, доказывающий, что ни Apple CSAM, ни любая другая аналогичная система не способна эффективно детектировать нелегальный контент.

По словам исследователей, алгоритмы детектирования достаточно легко обмануть — в 99,9% случаев, причём для этого даже не потребуется визуально менять изображения. Сам фокус заключается в использовании специального хеш-фильтра, который заставит систему сканирования воспринимать этот контент иначе. Для глаза человека разница будет незаметна:

 

В отчёте (PDF) специалисты указали на контрмеры — увеличить порог срабатывания, однако это неизбежно приведёт к ложноположительным детектам.

Напомним, в прошлом месяце стало известно, что Евросоюз уже давно хотел сканировать фото на iPhone пользователей, ещё до самого анонса технологии Apple CSAM.

Эксперты допустили новую зачистку российского софта в App Store

Apple удалила из App Store основные приложения холдинга VK, а эксперты уже предупреждают: на этом зачистка российского софта может не закончиться. Основания, которыми объясняются ограничения, подходят далеко не только для сервисов одной компании.

25 июня из магазина исчезли «ВКонтакте», «Одноклассники», «Дзен», VK Видео, VK Музыка, VK Знакомства и Mail.ru.

Ранее та же участь постигла мессенджер МАКС. Его удаление связывали с претензиями к безопасности, а блокировку остальных приложений — с санкциями.

Опрошенные «Коммерсантом» участники рынка считают ситуацию опасным прецедентом. Многие крупные российские платформы работают по одним и тем же законам: взаимодействуют с государственными органами и в предусмотренных случаях передают им данные.

Если этого достаточно для санкций, очередь из кандидатов на вылет из App Store может получиться длинной.

Не слишком убедительным эксперты называют и аргумент об обязательной предустановке МАКС на смартфоны. В России действует целый перечень программ для предустановки, поэтому при желании ту же логику можно распространить на сервисы других разработчиков.

В зоне риска оказываются не только мессенджеры и электронная почта, но и любые крупные цифровые платформы с широкой аудиторией и сложной инфраструктурой. Иными словами, билет из App Store потенциально может получить почти любой заметный российский сервис.

Пока речь идёт лишь об оценках участников рынка: Apple не объявляла о новой массовой волне удалений. Но сигнал получился вполне прозрачным. Сегодня из магазина исчезли VK и МАКС, а завтра кнопка «Недоступно в вашем регионе» может встретить пользователей совсем другого приложения.

RSS: Новости на портале Anti-Malware.ru