Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Исследователи из Имперского колледжа Лондона показали лёгкий способ обмануть систему сканирования медиаконтента. В качестве примера взяли технологию Apple CSAM, которая создала немало шума летом этого года.

Напомним, что CSAM (Child Sexual Abuse Material) была разработана с целью вычислять и пресекать распространение порнографических материалов, в которых фигурируют несовершеннолетние лица.

Из-за большого давления пользователей и специалистов по защите информации техногиганту из Купертино пришлось отложить введение этой функции в эксплуатацию до 2022 года. За это время разработчики обещали усовершенствовать CSAM и сделать саму технологию более прозрачной.

Основная идея разработки Apple опирается на сравнение хешей изображений, которые передаются с помощью iOS-устройств, с базой данных NCMEC и других организаций, занимающихся вопросами защиты детей.

Если CSAM найдёт совпадения, специалисты Apple изучат содержимое подозрительных материалов, а затем, если алерт подтвердится, передадут правоохранителям информацию о распространении детской порнографии.

Однако на симпозиуме USENIX специалисты продемонстрировали интересный способ, доказывающий, что ни Apple CSAM, ни любая другая аналогичная система не способна эффективно детектировать нелегальный контент.

По словам исследователей, алгоритмы детектирования достаточно легко обмануть — в 99,9% случаев, причём для этого даже не потребуется визуально менять изображения. Сам фокус заключается в использовании специального хеш-фильтра, который заставит систему сканирования воспринимать этот контент иначе. Для глаза человека разница будет незаметна:

 

В отчёте (PDF) специалисты указали на контрмеры — увеличить порог срабатывания, однако это неизбежно приведёт к ложноположительным детектам.

Напомним, в прошлом месяце стало известно, что Евросоюз уже давно хотел сканировать фото на iPhone пользователей, ещё до самого анонса технологии Apple CSAM.

Roblox начал работать в России после договорённостей с Минцифры

Похоже, Roblox действительно возвращается в Россию. О том, что игровая платформа снова начала работать без ограничений, сообщила глава Лиги безопасного интернета Екатерина Мизулина.

«Мои подписчики говорят, что Roblox начал работать без ограничений», — написала она в своём телеграм-канале.

Новость появилась буквально через день после того, как Минцифры и Роскомнадзор сообщили о договорённостях с компанией. Российские власти заявили, что получили от Roblox гарантии по усилению защиты несовершеннолетних пользователей и после этого обратились в правоохранительные органы с просьбой поддержать снятие ограничений с платформы.

Переговоры между российской стороной и Roblox завершились в начале июня. По итогам консультаций компания признала, что существующие механизмы модерации и защиты детей работали недостаточно эффективно.

Речь шла о случаях распространения материалов, связанных с суицидальным поведением, наркотиками и вовлечением подростков в противоправную деятельность.

В ответ Roblox пообещала внедрить дополнительные меры безопасности. Уже в июне на платформе должны появиться возрастные категории Roblox Kids и Roblox Select, которые будут ограничивать доступ к играм в зависимости от возраста пользователя.

Кроме того, компания подтвердила готовность активнее бороться с контентом, который может нанести вред здоровью и развитию детей.

В Минцифры ранее подчёркивали, что Россия готова поддерживать работу международных цифровых платформ, если они соблюдают требования российского законодательства и обеспечивают защиту пользователей.

Напомним, доступ к Roblox был ограничен в конце 2025 года. Тогда причиной назывались систематические нарушения требований по удалению запрещённого контента и недостаточно эффективная работа механизмов модерации.

Если информация о полном восстановлении доступа подтвердится окончательно, Roblox станет одним из немногих крупных зарубежных цифровых сервисов, которому удалось договориться с российскими регуляторами и вернуться в привычный режим работы.

RSS: Новости на портале Anti-Malware.ru