Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Исследователи из Имперского колледжа Лондона показали лёгкий способ обмануть систему сканирования медиаконтента. В качестве примера взяли технологию Apple CSAM, которая создала немало шума летом этого года.

Напомним, что CSAM (Child Sexual Abuse Material) была разработана с целью вычислять и пресекать распространение порнографических материалов, в которых фигурируют несовершеннолетние лица.

Из-за большого давления пользователей и специалистов по защите информации техногиганту из Купертино пришлось отложить введение этой функции в эксплуатацию до 2022 года. За это время разработчики обещали усовершенствовать CSAM и сделать саму технологию более прозрачной.

Основная идея разработки Apple опирается на сравнение хешей изображений, которые передаются с помощью iOS-устройств, с базой данных NCMEC и других организаций, занимающихся вопросами защиты детей.

Если CSAM найдёт совпадения, специалисты Apple изучат содержимое подозрительных материалов, а затем, если алерт подтвердится, передадут правоохранителям информацию о распространении детской порнографии.

Однако на симпозиуме USENIX специалисты продемонстрировали интересный способ, доказывающий, что ни Apple CSAM, ни любая другая аналогичная система не способна эффективно детектировать нелегальный контент.

По словам исследователей, алгоритмы детектирования достаточно легко обмануть — в 99,9% случаев, причём для этого даже не потребуется визуально менять изображения. Сам фокус заключается в использовании специального хеш-фильтра, который заставит систему сканирования воспринимать этот контент иначе. Для глаза человека разница будет незаметна:

 

В отчёте (PDF) специалисты указали на контрмеры — увеличить порог срабатывания, однако это неизбежно приведёт к ложноположительным детектам.

Напомним, в прошлом месяце стало известно, что Евросоюз уже давно хотел сканировать фото на iPhone пользователей, ещё до самого анонса технологии Apple CSAM.

В России впервые оштрафовали за использование ИИ при составлении документов

Арбитражный суд Западно-Сибирского округа оштрафовал компанию ЦСС на 50 тыс. рублей за подачу жалобы, содержащей заведомо ложные сведения. Документ был подготовлен с помощью генеративного искусственного интеллекта (ИИ). Дело касалось попытки взыскать с кемеровской компании ЦСС 58 тыс. рублей за якобы неоказанные бухгалтерские услуги.

Об этом прецеденте, который, как сообщается, стал первым подобным случаем в России, написало онлайн-издание «Фонтанка».

В жалобу были включены многочисленные постановления российских судов, в том числе высших инстанций, а также цитаты из них, якобы относящиеся к рассмотрению аналогичных дел.

Все они должны были подтвердить обоснованность позиции ответчика и ошибочность принятого решения, в том числе нарушение норм материального и процессуального права. Однако выяснилось, что большинство приведённых постановлений либо вообще не существует, либо не содержит указанных выводов.

Кассационная инстанция отклонила жалобу. Более того, её подателей привлекли к ответственности за неуважение к суду и назначили штраф в размере 50 тыс. рублей. Использование ИИ суд не признал оправданием.

«ООО „ЦСС“ предоставило суду заведомо ложные сведения, сфальсифицировав источники и стремясь воздействовать на суд округа непререкаемым авторитетом высшей судебной инстанции. Надеясь на поверхностное изучение судом округа аргументов кассационной жалобы и принятие желаемого для заявителя постановления, что является прямым обманом суда и грубейшим проявлением неуважения к правосудию», – говорится в определении суда.

За рубежом аналогичные решения выносятся уже не впервые. Так, в 2024 году американский регулятор оштрафовал компанию DoNotPay на 193 тыс. долларов за нарушение регуляторных требований. В отношении ещё нескольких компаний были возбуждены дела о мошенничестве.

RSS: Новости на портале Anti-Malware.ru