Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Исследователи из Имперского колледжа Лондона показали лёгкий способ обмануть систему сканирования медиаконтента. В качестве примера взяли технологию Apple CSAM, которая создала немало шума летом этого года.

Напомним, что CSAM (Child Sexual Abuse Material) была разработана с целью вычислять и пресекать распространение порнографических материалов, в которых фигурируют несовершеннолетние лица.

Из-за большого давления пользователей и специалистов по защите информации техногиганту из Купертино пришлось отложить введение этой функции в эксплуатацию до 2022 года. За это время разработчики обещали усовершенствовать CSAM и сделать саму технологию более прозрачной.

Основная идея разработки Apple опирается на сравнение хешей изображений, которые передаются с помощью iOS-устройств, с базой данных NCMEC и других организаций, занимающихся вопросами защиты детей.

Если CSAM найдёт совпадения, специалисты Apple изучат содержимое подозрительных материалов, а затем, если алерт подтвердится, передадут правоохранителям информацию о распространении детской порнографии.

Однако на симпозиуме USENIX специалисты продемонстрировали интересный способ, доказывающий, что ни Apple CSAM, ни любая другая аналогичная система не способна эффективно детектировать нелегальный контент.

По словам исследователей, алгоритмы детектирования достаточно легко обмануть — в 99,9% случаев, причём для этого даже не потребуется визуально менять изображения. Сам фокус заключается в использовании специального хеш-фильтра, который заставит систему сканирования воспринимать этот контент иначе. Для глаза человека разница будет незаметна:

 

В отчёте (PDF) специалисты указали на контрмеры — увеличить порог срабатывания, однако это неизбежно приведёт к ложноположительным детектам.

Напомним, в прошлом месяце стало известно, что Евросоюз уже давно хотел сканировать фото на iPhone пользователей, ещё до самого анонса технологии Apple CSAM.

Solar appScreener получил ИИ-триаж и автоматическое исправление уязвимостей

ГК «Солар» выпустила версию 3.16 платформы для безопасной разработки Solar appScreener. Основные изменения коснулись модуля статического анализа кода (SAST): в продукт добавили инструменты на базе ИИ для автоматической проверки результатов сканирования и подготовки исправлений для найденных уязвимостей.

Одним из ключевых нововведений стал ИИ-модуль триажа. Он анализирует результаты SAST-проверок, отсеивает ложные срабатывания и помогает разработчикам сосредоточиться на реальных проблемах безопасности.

По данным компании, модель обучалась на данных программных проектов и показывает точность более 90% при верификации уязвимостей.

Второй компонент — система автоматического исправления уязвимостей (CodeFix). Она предлагает готовые патчи для подтвержденных проблем безопасности, которые разработчик может использовать как основу для доработки кода.

Отдельно в Solar appScreener 3.16 переработали производительность самого SAST-анализатора. Теперь он активнее использует многоядерные процессоры для параллельной обработки файлов, что позволяет ускорить сканирование крупных проектов.

Обновление затронуло и модуль анализа сторонних компонентов (OSA). В нем появились дополнительные механизмы оценки лицензионных рисков и проверки используемых опенсорс-библиотек. Система анализирует не только зависимости проекта, но и информацию об авторах компонентов и возможные ограничения лицензий.

Также разработчики расширили поддержку языков программирования и улучшили инструменты для формирования SBOM-файлов. Для проектов на C и C++ появился анализ исходного кода, а для ряда языков добавлены новые возможности отслеживания потоков данных.

Еще одно изменение связано с требованиями регуляторов. В продукте появилась возможность использовать шкалу критичности уязвимостей в соответствии с классификацией ФСТЭК России, а также поддержка актуальной версии рейтинга OWASP Top 2025.

По данным «Солара», сегодня Solar appScreener используется более чем в 200 организациях, включая банки, ИТ-компании, транспортные и энергетические предприятия. Развитие подобных инструментов происходит на фоне растущего дефицита специалистов по безопасной разработке и увеличения объема программного кода, который необходимо проверять на наличие уязвимостей.

RSS: Новости на портале Anti-Malware.ru