В App Store и Google Play нашли десятки приложений для «раздевания» людей

В App Store и Google Play нашли десятки приложений для «раздевания» людей

В App Store и Google Play нашли десятки приложений для «раздевания» людей

Пока в соцсетях обсуждают скандалы вокруг чат-бота Grok, которого пользователи применяли для создания откровенных изображений женщин без их согласия, выяснилось, что проблема куда шире. В неё оказались вовлечены два самых популярных магазина приложений для мобильных устройств — Apple App Store и Google Play Store.

Как сообщает Tech Transparency Project, в официальных магазинах приложений обнаружились десятки так называемых nudify-приложений — сервисов, которые с помощью ИИ позволяют «раздевать» женщин на изображениях или создавать откровенные сцены.

По данным исследования, в Google Play Store таких приложений насчитали 55, в App Store — 47, причём 38 из них присутствовали сразу в обоих магазинах.

 

 

Для проверки исследователи просто искали по ключевым словам вроде «nudify» и «undress» — и без особых усилий находили десятки приложений. Часть из них генерировала изображения и видео по текстовым запросам, другие занимались «фейссвапом», подставляя лицо одного человека в тело другого.

После того как список приложений передали Google и Apple, компании всё же отреагировали: Google удалила 31 приложение, Apple — 25. Однако значительная часть подобных сервисов по-прежнему доступна, особенно в Play Store.

Отдельное внимание в отчёте уделяется приложению DreamFace — генератору изображений и видео, который до сих пор доступен в Google Play, хотя из App Store его уже убрали. По словам исследователей, сервис практически не сопротивляется откровенным запросам и спокойно создаёт непристойные изображения женщин.

Пользователю дают один бесплатный ролик в день, а за расширенные возможности предлагают оформить подписку. По данным AppMagic, DreamFace уже заработал около $1 млн.

Ирония в том, что и Google, и Apple получают до 30% комиссии с таких подписок — то есть фактически зарабатывают на приложениях, которые нарушают их же собственные правила.

Похожая история и с приложением Collart, которое тоже умеет генерировать откровенный контент и принимать прямые запросы на порнографические сцены. Его удалили из App Store, но в Google Play оно всё ещё доступно.

Ещё более тревожной эксперты называют категорию фейссвоп-приложений. Такие сервисы позволяют подставлять лица реальных людей — знакомых, коллег, одноклассников — на обнажённые тела. Например, приложение RemakeFace на момент публикации остаётся доступным сразу в обоих магазинах и, как утверждается в отчёте, легко используется для создания несогласованных интимных изображений.

При этом и Apple, и Google официально запрещают приложения с сексуальной наготой. Но, как показало исследование, этих ограничений оказалось недостаточно: ИИ-сервисы для «раздевания» людей годами спокойно проходили модерацию и распространялись через официальные магазины.

Apple Watch будут записывать разговоры, согласие окружающих не спросили

Apple представила для Watch Series 12 набор функций Audio Intelligence, который умеет распознавать звуки, определять музыку и превращать окружающие разговоры в текстовые заметки. Корпорация обещает приватность, но правозащитники увидели другую картину: часы анализируют речь людей, которые могли вообще не соглашаться на участие в этом цифровом совещании.

Функция Live Rewind по двойному нажатию Digital Crown показывает текст последних 15 секунд разговора.

Микрофон часов постоянно обрабатывает звук в защищённой области Secure Exclave чипа S11. После активации нужный фрагмент передаётся на расположенный рядом iPhone для распознавания речи, затем исходное аудио удаляется, а текст можно сохранить.

Чтобы окружающие поняли, что началась транскрибация, часы воспроизводят звуковой сигнал даже в беззвучном режиме, показывают полноэкранную анимацию и индикатор микрофона. Проблема в том, что услышать сигнал — не то же самое, что дать согласие. Особенно если человек понятия не имеет, что именно пропищало у собеседника на запястье.

Вторая функция, Siri Recap, автоматически составляет заголовок и краткое резюме разговоров за день. Apple утверждает, что она не сохраняет запись, не создаёт дословную расшифровку, не определяет участников и старается исключать финансовые данные и государственные идентификаторы. Звукового предупреждения здесь нет.

Полученные фрагменты Live Rewind и резюме Siri Recap хранятся в приложении Siri со сквозным шифрованием и недоступны Apple. Обе возможности нужно включать добровольно, а Siri Recap можно приостанавливать через Пункт управления. Бета-версии появятся позднее в 2026 году. Описание функций опубликовано Apple.

В Фонде электронных рубежей считают, что у окружающих нет практического способа заранее согласиться на обработку своей речи или отказаться от неё. Кроме того, использование функции может столкнуться с законами юрисдикций, где запись разговора требует согласия всех участников.

RSS: Новости на портале Anti-Malware.ru