Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Эксперты показали, как обмануть функцию сканирования фото Apple CSAM

Исследователи из Имперского колледжа Лондона показали лёгкий способ обмануть систему сканирования медиаконтента. В качестве примера взяли технологию Apple CSAM, которая создала немало шума летом этого года.

Напомним, что CSAM (Child Sexual Abuse Material) была разработана с целью вычислять и пресекать распространение порнографических материалов, в которых фигурируют несовершеннолетние лица.

Из-за большого давления пользователей и специалистов по защите информации техногиганту из Купертино пришлось отложить введение этой функции в эксплуатацию до 2022 года. За это время разработчики обещали усовершенствовать CSAM и сделать саму технологию более прозрачной.

Основная идея разработки Apple опирается на сравнение хешей изображений, которые передаются с помощью iOS-устройств, с базой данных NCMEC и других организаций, занимающихся вопросами защиты детей.

Если CSAM найдёт совпадения, специалисты Apple изучат содержимое подозрительных материалов, а затем, если алерт подтвердится, передадут правоохранителям информацию о распространении детской порнографии.

Однако на симпозиуме USENIX специалисты продемонстрировали интересный способ, доказывающий, что ни Apple CSAM, ни любая другая аналогичная система не способна эффективно детектировать нелегальный контент.

По словам исследователей, алгоритмы детектирования достаточно легко обмануть — в 99,9% случаев, причём для этого даже не потребуется визуально менять изображения. Сам фокус заключается в использовании специального хеш-фильтра, который заставит систему сканирования воспринимать этот контент иначе. Для глаза человека разница будет незаметна:

 

В отчёте (PDF) специалисты указали на контрмеры — увеличить порог срабатывания, однако это неизбежно приведёт к ложноположительным детектам.

Напомним, в прошлом месяце стало известно, что Евросоюз уже давно хотел сканировать фото на iPhone пользователей, ещё до самого анонса технологии Apple CSAM.

В России письменные дипломы могут заменить устными экзаменами из-за ИИ

Развитие искусственного интеллекта может довести российские вузы до очень старой, но внезапно снова актуальной идеи: вместо письменной дипломной работы — устный экзамен. Министр науки и высшего образования РФ Валерий Фальков заявил, что такой формат позволит честнее оценивать реальные знания и компетенции студентов.

Логика простая: если текст можно сгенерировать, отредактировать и красиво упаковать с помощью ИИ, то сама по себе письменная работа уже не всегда показывает, что студент действительно понимает тему.

А вот на устном экзамене спрятаться за нейросетью сложнее: преподаватель задаёт вопросы, уточняет детали, просит объяснить логику, и там уже видно, кто разбирался, а кто просто принёс красиво оформленный документ.

Фальков, как передаёт ТАСС, назвал это возвращением к истокам высшего образования с помощью ИИ. По его словам, никакая система не подготовит студента к живым вопросам преподавателя так, чтобы это нельзя было почувствовать.

Ранее министр также говорил, что уже в ближайшие годы в вузы придут студенты, для которых искусственный интеллект будет привычным инструментом с рождения. Это означает, что подходы к обучению и оценке знаний придётся пересматривать регулярно, а не раз в десятилетие по большим праздникам.

По сути, университеты сталкиваются с простой проблемой: если ИИ умеет писать всё лучше, проверять нужно не только текст, но и человека за этим текстом. И устный экзамен здесь выглядит не архаикой, а вполне рабочим античитом против дипломов, собранных по принципу «нейросеть, сделай красиво».

RSS: Новости на портале Anti-Malware.ru