Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Исследователи из Имперского колледжа Лондона показали лёгкий способ обмануть систему сканирования медиаконтента. В качестве примера взяли технологию Apple CSAM, которая создала немало шума летом этого года.

Напомним, что CSAM (Child Sexual Abuse Material) была разработана с целью вычислять и пресекать распространение порнографических материалов, в которых фигурируют несовершеннолетние лица.

Из-за большого давления пользователей и специалистов по защите информации техногиганту из Купертино пришлось отложить введение этой функции в эксплуатацию до 2022 года. За это время разработчики обещали усовершенствовать CSAM и сделать саму технологию более прозрачной.

Основная идея разработки Apple опирается на сравнение хешей изображений, которые передаются с помощью iOS-устройств, с базой данных NCMEC и других организаций, занимающихся вопросами защиты детей.

Если CSAM найдёт совпадения, специалисты Apple изучат содержимое подозрительных материалов, а затем, если алерт подтвердится, передадут правоохранителям информацию о распространении детской порнографии.

Однако на симпозиуме USENIX специалисты продемонстрировали интересный способ, доказывающий, что ни Apple CSAM, ни любая другая аналогичная система не способна эффективно детектировать нелегальный контент.

По словам исследователей, алгоритмы детектирования достаточно легко обмануть — в 99,9% случаев, причём для этого даже не потребуется визуально менять изображения. Сам фокус заключается в использовании специального хеш-фильтра, который заставит систему сканирования воспринимать этот контент иначе. Для глаза человека разница будет незаметна:

 

В отчёте (PDF) специалисты указали на контрмеры — увеличить порог срабатывания, однако это неизбежно приведёт к ложноположительным детектам.

Напомним, в прошлом месяце стало известно, что Евросоюз уже давно хотел сканировать фото на iPhone пользователей, ещё до самого анонса технологии Apple CSAM.

Первый штраф за контент в MAX: жителя Кубани наказали из-за аватарки

Государственный мессенджер MAX впервые засветился не только в новостях про цифровые сервисы, но и в судебной практике. Как сообщает «Коммерсантъ» со ссылкой на данные картотеки суда, 3 марта Абинский районный суд Краснодарского края назначил местному жителю Ивану Кажану штраф 1 тыс. рублей.

Издание называет это первым известным случаем наказания за контент в MAX.

Протокол был составлен по части 1 статьи 20.3 КоАП РФ — это статья о демонстрации экстремистской символики. По данным судебного постановления, летом 2025 года мужчина установил в качестве аватарки фотографию, на которой была видна татуировка, связанная с движением, признанным экстремистским в России.

В поле зрения силовых структур это изображение попало только в феврале 2026 года, после чего и было возбуждено административное дело.

Тут важен один нюанс: история не про «наказание за сам MAX» и не про критику мессенджера, а именно про содержимое профиля, которое попало под действие административной статьи.

Но сам факт всё равно показательный: MAX уже начал появляться не только в обсуждениях, но и в реальных судебных кейсах.

К слову, ещё летом 2025-го в России предложили штрафовать за поиск экстремистских материалов и VPN. Уже к концу того же года суд оштрафовал первого фигуранта по делу о поиске экстремистских материалов.

Мы также разбирали подробности законопроекта, предусматривающего наложение штрафов за поиск в интернете или скачивание материалов экстремистского содержания, в отдельной статье.

RSS: Новости на портале Anti-Malware.ru