Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Исследователи из Имперского колледжа Лондона показали лёгкий способ обмануть систему сканирования медиаконтента. В качестве примера взяли технологию Apple CSAM, которая создала немало шума летом этого года.

Напомним, что CSAM (Child Sexual Abuse Material) была разработана с целью вычислять и пресекать распространение порнографических материалов, в которых фигурируют несовершеннолетние лица.

Из-за большого давления пользователей и специалистов по защите информации техногиганту из Купертино пришлось отложить введение этой функции в эксплуатацию до 2022 года. За это время разработчики обещали усовершенствовать CSAM и сделать саму технологию более прозрачной.

Основная идея разработки Apple опирается на сравнение хешей изображений, которые передаются с помощью iOS-устройств, с базой данных NCMEC и других организаций, занимающихся вопросами защиты детей.

Если CSAM найдёт совпадения, специалисты Apple изучат содержимое подозрительных материалов, а затем, если алерт подтвердится, передадут правоохранителям информацию о распространении детской порнографии.

Однако на симпозиуме USENIX специалисты продемонстрировали интересный способ, доказывающий, что ни Apple CSAM, ни любая другая аналогичная система не способна эффективно детектировать нелегальный контент.

По словам исследователей, алгоритмы детектирования достаточно легко обмануть — в 99,9% случаев, причём для этого даже не потребуется визуально менять изображения. Сам фокус заключается в использовании специального хеш-фильтра, который заставит систему сканирования воспринимать этот контент иначе. Для глаза человека разница будет незаметна:

 

В отчёте (PDF) специалисты указали на контрмеры — увеличить порог срабатывания, однако это неизбежно приведёт к ложноположительным детектам.

Напомним, в прошлом месяце стало известно, что Евросоюз уже давно хотел сканировать фото на iPhone пользователей, ещё до самого анонса технологии Apple CSAM.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В Магните запустили пилот подтверждения возраста через MAX

Торговая сеть «Магнит» приступила к тестированию подтверждения личности покупателей через MAX. Новая технология доступна пользователям мессенджера при оплате товаров с возрастными ограничениями через кассы самообслуживания (КСО).

Пилотный проект пока запущен в десяти магазинах в трех городах: в Москве, Краснодаре и Санкт-Петербурге. В ближайшее время ретейлер обещает расширить охват до 300 торговых точек, а также географию нововведения.

Пилот рассчитан на три месяца, в течение которых будет собираться обратная связь. По результатам будет принято решение о целесообразности дальнейшего масштабирования проекта.

Чтобы воспользоваться новой возможностью, пользователь мобильного MAX должен создать цифровой ID, привязав аккаунт к Госуслугам. При покупке товаров с возрастными ограничениями достаточно будет отсканировать на кассе QR-код, выведенный мессенджером.

Для запуска новой опции команде «Магнита» пришлось подкрутить софт КСО и поработать над его интеграцией с инфраструктурой MAX.

«Рассчитываем, что использование цифрового ID может значительно упростить процесс покупок товаров, которые имеют возрастные ограничения, — заявил Вячеслав Кубаев, главный директор по цифровым технологиям группы компаний «Магнит». — Кроме того, решение, которое мы тестируем, позволит в перспективе снизить нагрузку на персонал магазинов. В дальнейшем цифровой ID может быть использован и в других областях – например, чтобы идентифицировать клиентов, зарегистрированных в программе лояльности, и предлагать им персональный набор акций и услуг».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru