Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Исследователи из Имперского колледжа Лондона показали лёгкий способ обмануть систему сканирования медиаконтента. В качестве примера взяли технологию Apple CSAM, которая создала немало шума летом этого года.

Напомним, что CSAM (Child Sexual Abuse Material) была разработана с целью вычислять и пресекать распространение порнографических материалов, в которых фигурируют несовершеннолетние лица.

Из-за большого давления пользователей и специалистов по защите информации техногиганту из Купертино пришлось отложить введение этой функции в эксплуатацию до 2022 года. За это время разработчики обещали усовершенствовать CSAM и сделать саму технологию более прозрачной.

Основная идея разработки Apple опирается на сравнение хешей изображений, которые передаются с помощью iOS-устройств, с базой данных NCMEC и других организаций, занимающихся вопросами защиты детей.

Если CSAM найдёт совпадения, специалисты Apple изучат содержимое подозрительных материалов, а затем, если алерт подтвердится, передадут правоохранителям информацию о распространении детской порнографии.

Однако на симпозиуме USENIX специалисты продемонстрировали интересный способ, доказывающий, что ни Apple CSAM, ни любая другая аналогичная система не способна эффективно детектировать нелегальный контент.

По словам исследователей, алгоритмы детектирования достаточно легко обмануть — в 99,9% случаев, причём для этого даже не потребуется визуально менять изображения. Сам фокус заключается в использовании специального хеш-фильтра, который заставит систему сканирования воспринимать этот контент иначе. Для глаза человека разница будет незаметна:

 

В отчёте (PDF) специалисты указали на контрмеры — увеличить порог срабатывания, однако это неизбежно приведёт к ложноположительным детектам.

Напомним, в прошлом месяце стало известно, что Евросоюз уже давно хотел сканировать фото на iPhone пользователей, ещё до самого анонса технологии Apple CSAM.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Российские операторы связи начали продавать доступ к ChatGPT и Gemini

Российские мобильные операторы начали предоставлять своим клиентам доступ к зарубежным нейросетевым инструментам, включая ChatGPT, Gemini и Claude. Такая инициатива призвана привлечь и удержать абонентов, однако сопровождается юридическими рисками и может вызвать усиление санкционного давления.

Как сообщили «Известия», операторы МТС и Билайн с ноября начали предоставлять доступ к популярным зарубежным ИИ-сервисам. Ранее аналогичные решения запустили Yota и МегаФон.

При этом компании дополнили свои предложения инструментами, не требующими сложных запросов или регистрации.

«Такой подход в перспективе открывает возможности для запуска целого набора персональных ИИ-помощников, которые сделают жизнь абонента комфортнее», — рассказал вице-президент по розничному бизнесу МТС Юрий Нефедов.

Билайн сделал ставку на мини-приложения. «Витрина нейросетей позволяет пользователям в мини-приложениях Telegram и VK получать доступ к набору ИИ-инструментов без необходимости использовать зарубежные банковские карты или проходить сложную регистрацию», — отметил директор по продуктовому маркетингу оператора Алексей Карев.

По мнению ведущего аналитика Mobile Research Group Эльдара Муртазина, такая инициатива связана с ограниченными возможностями конкуренции на рынке мобильной связи. Операторам приходится усиливать привлекательность тарифов за счёт дополнительных сервисов. Это помогает не только удерживать текущих пользователей, но и привлекать новых. Единственным серьёзным конкурентом для таких решений остаётся «Алиса» от Яндекса.

Партнёр ComNews Research Леонид Коник отметил, что с точки зрения абонентов российские операторы мало чем отличаются друг от друга, кроме фирменных цветов. Поэтому внедрение новых сервисов — естественный способ увеличить доходы. Однако, по его словам, продажа доступа к зарубежным ИИ-инструментам несёт серьёзные риски: «Владельцы нейросетей Claude и Gemini — американские компании Anthropic и Google — заблокировали их работу в России. Продажа доступа к ним может быть расценена регуляторами США как нарушение санкционных режимов, что чревато неприятными последствиями для участников таких схем».

Партнёр юридической фирмы «Рустам Курмаев и партнёры» Дмитрий Горбунов напомнил, что российское законодательство не запрещает использовать технологии обхода блокировок для доступа к легальным сервисам. Однако возможны споры с правообладателями: «Если российские операторы предоставляют платный доступ, обходя установленные географические ограничения, это может рассматриваться как нарушение условий использования и потенциально — как содействие обходу санкций США».

По его оценке, такие действия операторов могут привести, с одной стороны, к усилению контроля со стороны разработчиков, стремящихся отслеживать несанкционированный доступ, а с другой — к ужесточению блокировок и даже к введению персональных санкций против руководства компаний.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru