Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Исследователи из Имперского колледжа Лондона показали лёгкий способ обмануть систему сканирования медиаконтента. В качестве примера взяли технологию Apple CSAM, которая создала немало шума летом этого года.

Напомним, что CSAM (Child Sexual Abuse Material) была разработана с целью вычислять и пресекать распространение порнографических материалов, в которых фигурируют несовершеннолетние лица.

Из-за большого давления пользователей и специалистов по защите информации техногиганту из Купертино пришлось отложить введение этой функции в эксплуатацию до 2022 года. За это время разработчики обещали усовершенствовать CSAM и сделать саму технологию более прозрачной.

Основная идея разработки Apple опирается на сравнение хешей изображений, которые передаются с помощью iOS-устройств, с базой данных NCMEC и других организаций, занимающихся вопросами защиты детей.

Если CSAM найдёт совпадения, специалисты Apple изучат содержимое подозрительных материалов, а затем, если алерт подтвердится, передадут правоохранителям информацию о распространении детской порнографии.

Однако на симпозиуме USENIX специалисты продемонстрировали интересный способ, доказывающий, что ни Apple CSAM, ни любая другая аналогичная система не способна эффективно детектировать нелегальный контент.

По словам исследователей, алгоритмы детектирования достаточно легко обмануть — в 99,9% случаев, причём для этого даже не потребуется визуально менять изображения. Сам фокус заключается в использовании специального хеш-фильтра, который заставит систему сканирования воспринимать этот контент иначе. Для глаза человека разница будет незаметна:

 

В отчёте (PDF) специалисты указали на контрмеры — увеличить порог срабатывания, однако это неизбежно приведёт к ложноположительным детектам.

Напомним, в прошлом месяце стало известно, что Евросоюз уже давно хотел сканировать фото на iPhone пользователей, ещё до самого анонса технологии Apple CSAM.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В России родителей хотят обязать сообщать оператору о детских сим-картах

В России планируют ввести новые правила, согласно которым родители обязаны будут уведомлять оператора связи, если их сим-картой пользуется ребёнок. Операторы будут передавать информацию о детских номерах в государственную систему мониторинга ГИС «КСИМ», которую ведёт Роскомнадзор.

Эта база уже используется для контроля «серых» сим-карт и подключена ко всем основным операторам — МТС, «Мегафон», Т2 и «Билайн». Такая норма содержится во втором пакете антимошеннических поправок, с текстом которых ознакомился Forbes.

Кроме того, соцсети, мессенджеры и другие интернет-ресурсы, входящие в реестр «распространителей информации» (ОРИ), при аутентификации по номеру телефона должны будут проверять, принадлежит ли он ребёнку или взрослому. От этого будет зависеть, какой контент пользователь сможет просматривать.

По замыслу законодателей, это поможет ограничить доступ несовершеннолетних к «заведомо вредной информации» — например, к материалам 18+. Конкретные правила и порядок реализации правительство определит позже.

В Минцифры пояснили: оформить сим-карту на себя можно с 14 лет. Если номер покупает родитель, он сможет указать, что отдаёт сим-карту ребёнку — тогда оператор присвоит ей статус «передано ребёнку».

Операторы связи отмечают, что пока не ясно, как технически будет работать новая система. В «Мегафоне» предполагают, что родителям добавят возможность отмечать «детские» сим-карты в личном кабинете, чтобы автоматически применять возрастные ограничения. В Т2 говорят о возможном появлении добровольного «флага», который оператор сможет передавать в систему «КСИМ» и далее — интернет-площадкам.

Юристы и представители отрасли считают, что поправки пока «сырые» и оставляют много неясностей. Например, не описан порядок, следуя которому несовершеннолетние будут подтверждать свой возраст. Эксперты не исключают, что на некоторых сайтах может появиться обязательная идентификация пользователей.

По словам источников Forbes, нововведение может стать шагом к более жёсткому регулированию детского доступа к интернет-контенту.

«Сейчас это отдано на саморегулирование, но в будущем государство может само определять, что можно смотреть детям, а что — нет», — отмечает один из собеседников издания.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru