Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Исследователи из Имперского колледжа Лондона показали лёгкий способ обмануть систему сканирования медиаконтента. В качестве примера взяли технологию Apple CSAM, которая создала немало шума летом этого года.

Напомним, что CSAM (Child Sexual Abuse Material) была разработана с целью вычислять и пресекать распространение порнографических материалов, в которых фигурируют несовершеннолетние лица.

Из-за большого давления пользователей и специалистов по защите информации техногиганту из Купертино пришлось отложить введение этой функции в эксплуатацию до 2022 года. За это время разработчики обещали усовершенствовать CSAM и сделать саму технологию более прозрачной.

Основная идея разработки Apple опирается на сравнение хешей изображений, которые передаются с помощью iOS-устройств, с базой данных NCMEC и других организаций, занимающихся вопросами защиты детей.

Если CSAM найдёт совпадения, специалисты Apple изучат содержимое подозрительных материалов, а затем, если алерт подтвердится, передадут правоохранителям информацию о распространении детской порнографии.

Однако на симпозиуме USENIX специалисты продемонстрировали интересный способ, доказывающий, что ни Apple CSAM, ни любая другая аналогичная система не способна эффективно детектировать нелегальный контент.

По словам исследователей, алгоритмы детектирования достаточно легко обмануть — в 99,9% случаев, причём для этого даже не потребуется визуально менять изображения. Сам фокус заключается в использовании специального хеш-фильтра, который заставит систему сканирования воспринимать этот контент иначе. Для глаза человека разница будет незаметна:

 

В отчёте (PDF) специалисты указали на контрмеры — увеличить порог срабатывания, однако это неизбежно приведёт к ложноположительным детектам.

Напомним, в прошлом месяце стало известно, что Евросоюз уже давно хотел сканировать фото на iPhone пользователей, ещё до самого анонса технологии Apple CSAM.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Яндекс Документы вышел из бета-версии

Яндекс сообщил о завершении бета-тестирования собственного офисного пакета онлайн-редакторов Яндекс Документы, включающего инструменты для работы с текстами и таблицами. Новый сервис был разработан с нуля и пришёл на смену предыдущему решению, основанному на веб-версии «Р7 Офиса». Теперь редакторы доступны всем пользователям в релизной версии с расширенным функционалом.

Бета-версия онлайн-редакторов от Яндекса появилась в декабре 2024 года. В отличие от прежнего решения, основанного на «Р7 Офисе», новый офисный пакет создавался полностью с нуля.

Ключевой особенностью Яндекс Документов стала глубокая интеграция с нейросетью YandexGPT. С её помощью пользователи могут генерировать тексты по запросу, пересказывать документы или формировать краткое резюме объёмных материалов.

В релизной версии появилась поддержка офлайн-режима: работать с документами можно без подключения к интернету, а при восстановлении связи данные автоматически синхронизируются с облаком. Редакторы уведомляют пользователя как о переходе в офлайн-режим, так и о возвращении соединения.

Среди новых возможностей — комментарии к документам, вставка изображений и таблиц в текстовые файлы. В табличном редакторе реализована поддержка диаграмм, фильтров для анализа данных, поиска по содержимому, а также закрепление областей при работе с крупными таблицами.

«Собственная технологическая платформа делает нас гибче и позволяет быстрее внедрять новые функции. Уже на этапе бета-тестирования мы предложили по-настоящему функциональный инструмент, которым пользовались миллионы человек в рабочих и повседневных задачах. Мы продолжаем развивать сервис, добавляя новые сценарии: офлайн-режим, визуальные инструменты — лишь начало. Впереди — ещё больше нововведений, и мы представим их на флагманской конференции Yandex Connect 30 октября», — отметил руководитель сервиса Документы Евгений Круглов.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru