В системе Apple для сканирования фотографий пользователей нашли изъян

В системе Apple для сканирования фотографий пользователей нашли изъян

В системе Apple для сканирования фотографий пользователей нашли изъян

Исследователи выявили уязвимость в алгоритме хеширования NeuralHash, который Apple использует, помимо прочего, для проверки схожести фото и видео пользователя с известными материалами, на которых запечатлена эксплуатация несовершеннолетних. Таким образом, система сканирования Apple CSAM получила новую порцию критики.

На этой неделе один из пользователей GitHub опубликовал на площадке реконструированную Python-версию NeuralHash. По словам специалиста, ему удалось провести обратный инжиниринг протокола из прошлых версий iOS.

В посте также содержалась инструкция, позволяющая извлечь NeuralHash из текущих сборок macOS или iOS. Стоит отметить, что NeuralHash не используется конкретно для CSAM, однако всё равно даёт представление об уязвимостях системы в целом.

«Предварительные тесты показали, что алгоритм допускает сжатие и изменение размеров изображения, но при этом запрещает переворачивать его или обрезать», — написал выложивший алгоритм эксперт на страницах Reddit.

«Надеюсь, это поможет нам лучше понять алгоритм NeuralHash и вычислить его потенциальные слабости до того, как он появится в iOS».

Вскоре после этого пользователь Кори Корнелиус отметил интересную особенность алгоритма: два изображения могут генерировать абсолютно одинаковый хеш. Apple же утверждает, что дополнительные защитные функции системы CSAM будут пресекать эксплуатацию этой бреши.

Напомним, что с момента анонсирования функции сканирования фотографий и видеозаписей Apple пытается убедить всех, что она абсолютно безопасна для добропорядочных граждан. Например, на днях корпорация ответила на обвинения во встраивании бэкдора.

ИИ тайком зовут на свидания: личные разговоры уходят на расшифровку

ИИ-диктофоны тихо выползли из переговорок в обычную жизнь. Пользователи записывают с их помощью свидания, приёмы у врачей, сеансы психотерапии и ужины с друзьями. Собеседников при этом нередко забывают предупредить; в конце концов, зачем портить сюрприз?

Одним из символов новой моды стало приложение Granola. Оно записывает звук через микрофон устройства: никакой иконки, никаких уведомлений, остальные участники могут даже не подозревать, что их слова уже превращаются в расшифровку.

Сервис быстро набирает популярность: ранее в этом году Granola привлекла $125 млн при оценке в $1,5 млрд. Причём используют его уже не только для рабочих встреч. Основательница стартапа Yuzu Labs Эмми Чанг рассказала The Wall Street Journal, что записывает первые свидания, а затем отправляет расшифровки Claude — пусть нейросеть решит, была ли искра.

Другие пользователи сохраняют разговоры с врачами, терапевтами и друзьями. Только вот в ряде американских штатов для записи требуется согласие всех участников. Тайный цифровой стенографист там может обернуться не неловким объяснением, а уголовным делом.

Бизнесу тоже пора насторожиться. ИИ-ассистенты уже оставались на видеозвонках после ухода сотрудников и продолжали фиксировать неформальные разговоры и сплетни. Глава Human Resource Certification Institute Эми Дюфрейн считает такие инструменты серьёзным риском для организаций и советует вовсе от них отказаться.

Есть и менее очевидная проблема. Исследования когнитивной разгрузки связывают активное использование ИИ со снижением критического мышления. Когда машина слушает, запоминает и анализирует за человека, сам он постепенно отвыкает делать всё это самостоятельно.

RSS: Новости на портале Anti-Malware.ru