Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Исследователи из Имперского колледжа Лондона показали лёгкий способ обмануть систему сканирования медиаконтента. В качестве примера взяли технологию Apple CSAM, которая создала немало шума летом этого года.

Напомним, что CSAM (Child Sexual Abuse Material) была разработана с целью вычислять и пресекать распространение порнографических материалов, в которых фигурируют несовершеннолетние лица.

Из-за большого давления пользователей и специалистов по защите информации техногиганту из Купертино пришлось отложить введение этой функции в эксплуатацию до 2022 года. За это время разработчики обещали усовершенствовать CSAM и сделать саму технологию более прозрачной.

Основная идея разработки Apple опирается на сравнение хешей изображений, которые передаются с помощью iOS-устройств, с базой данных NCMEC и других организаций, занимающихся вопросами защиты детей.

Если CSAM найдёт совпадения, специалисты Apple изучат содержимое подозрительных материалов, а затем, если алерт подтвердится, передадут правоохранителям информацию о распространении детской порнографии.

Однако на симпозиуме USENIX специалисты продемонстрировали интересный способ, доказывающий, что ни Apple CSAM, ни любая другая аналогичная система не способна эффективно детектировать нелегальный контент.

По словам исследователей, алгоритмы детектирования достаточно легко обмануть — в 99,9% случаев, причём для этого даже не потребуется визуально менять изображения. Сам фокус заключается в использовании специального хеш-фильтра, который заставит систему сканирования воспринимать этот контент иначе. Для глаза человека разница будет незаметна:

 

В отчёте (PDF) специалисты указали на контрмеры — увеличить порог срабатывания, однако это неизбежно приведёт к ложноположительным детектам.

Напомним, в прошлом месяце стало известно, что Евросоюз уже давно хотел сканировать фото на iPhone пользователей, ещё до самого анонса технологии Apple CSAM.

Российские математики научили ИИ-модели общаться без слов

Российский стартап Mostik разработал способ объединять возможности разных ИИ-моделей без обмена текстовыми ответами. Вместо длинной переписки нейросети взаимодействуют через математические значения во внутренних представлениях.

Обычно ансамбль работает последовательно: одна модель генерирует ответ, а другая получает его на вход.

Это требует времени и вычислительных ресурсов. Метод Mostik позволяет передавать информацию между моделями на более глубоком уровне, помогая небольшой нейросети использовать возможности значительно более крупной.

Для демонстрации команда связала китайскую GLM-5.2 с 753 млрд параметров и компактную Qwen-3.5 на 4 млрд параметров, способную работать на мобильном устройстве.

По утверждению разработчиков, получившаяся система показала результат ровно посередине между исходными моделями, но обошлась в 20 раз дешевле запуска полной GLM.

Ещё одну систему Mostik вывел в лидеры сложного соревнования ARC-AGI 3, предназначенного для проверки способности ИИ решать новые задачи. Подробности команда пока скрывает, чтобы не раскрывать подход до завершения конкурса.

Гендиректор стартапа Саша Малышева считает, что будущее ИИ может принадлежать не одной гигантской модели, а коллективу специализированных нейросетей. Внутри компании этот подход сравнивают с угадыванием веса свиньи: усреднённая оценка группы людей иногда оказывается точнее ответа одного эксперта.

Если технология подтвердит эффективность на разных моделях и задачах, она может повысить ценность открытых нейросетей. Крупную модель получится объединить с небольшими экспертами по медицине, физике или биологии, не заставляя вычислительного монстра выполнять всю работу.

Пока опубликованных технических деталей и независимого воспроизведения результатов нет. Подробнее про проект пишет издание WIRED.

RSS: Новости на портале Anti-Malware.ru