Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Исследователи из Имперского колледжа Лондона показали лёгкий способ обмануть систему сканирования медиаконтента. В качестве примера взяли технологию Apple CSAM, которая создала немало шума летом этого года.

Напомним, что CSAM (Child Sexual Abuse Material) была разработана с целью вычислять и пресекать распространение порнографических материалов, в которых фигурируют несовершеннолетние лица.

Из-за большого давления пользователей и специалистов по защите информации техногиганту из Купертино пришлось отложить введение этой функции в эксплуатацию до 2022 года. За это время разработчики обещали усовершенствовать CSAM и сделать саму технологию более прозрачной.

Основная идея разработки Apple опирается на сравнение хешей изображений, которые передаются с помощью iOS-устройств, с базой данных NCMEC и других организаций, занимающихся вопросами защиты детей.

Если CSAM найдёт совпадения, специалисты Apple изучат содержимое подозрительных материалов, а затем, если алерт подтвердится, передадут правоохранителям информацию о распространении детской порнографии.

Однако на симпозиуме USENIX специалисты продемонстрировали интересный способ, доказывающий, что ни Apple CSAM, ни любая другая аналогичная система не способна эффективно детектировать нелегальный контент.

По словам исследователей, алгоритмы детектирования достаточно легко обмануть — в 99,9% случаев, причём для этого даже не потребуется визуально менять изображения. Сам фокус заключается в использовании специального хеш-фильтра, который заставит систему сканирования воспринимать этот контент иначе. Для глаза человека разница будет незаметна:

 

В отчёте (PDF) специалисты указали на контрмеры — увеличить порог срабатывания, однако это неизбежно приведёт к ложноположительным детектам.

Напомним, в прошлом месяце стало известно, что Евросоюз уже давно хотел сканировать фото на iPhone пользователей, ещё до самого анонса технологии Apple CSAM.

Точка Банк запустил ИИ-проверку сайтов и соцсетей бизнеса на скрытые схемы

Точка Банк представил на Уральском форуме «Кибербезопасность в финансах» собственный сервис ИИ-мониторинга для проверки сайтов и соцсетей бизнеса. Сервис встроен в процессы банка и автоматически анализирует онлайн-площадки клиентов перед подключением интернет-эквайринга. Проверка проводится не один раз — мониторинг продолжается и дальше на регулярной основе.

Главная особенность решения — оно оценивает не только сайты, но и страницы в соцсетях. Сейчас система уже умеет проверять магазины во «ВКонтакте», в перспективе планируется добавить мониторинг телеграм-каналов юридических лиц.

ИИ-мониторинг проверяет несколько вещей. Во-первых, наличие вредоносного кода — например, если на сайте размещён скрипт, который может перехватывать данные банковских карт или доступ к интернет-банку.

Во-вторых, анализируется содержание площадки: большие языковые модели оценивают тексты и ищут признаки скрытой или запрещённой деятельности. В-третьих, система отслеживает продажу запрещённых товаров и услуг — например, если под видом одной продукции фактически рекламируется другая.

В банке подчёркивают, что результаты автоматической проверки не являются окончательными: все подозрительные случаи передаются специалисту для дополнительного анализа, и решение принимается уже с учётом полной картины.

По словам Андрея Румянцева, лидера направления машинного обучения в Точка Банке, сервис настроен именно под задачи проверки бизнес-площадок и обучен на большом массиве сайтов юридических лиц.

Технология, по его словам, должна помочь банку снижать риски работы с недобросовестными компаниями, а предпринимателям — вовремя замечать проблемы на своих онлайн-ресурсах.

Фактически речь идёт о ещё одном уровне проверки цифрового присутствия бизнеса — с упором не только на техническую безопасность, но и на содержание.

RSS: Новости на портале Anti-Malware.ru