Google: Android SafetyCore — не сканер, а классификатор контента на базе ИИ

Google: Android SafetyCore — не сканер, а классификатор контента на базе ИИ

Google: Android SafetyCore — не сканер, а классификатор контента на базе ИИ

Развертывание защиты Android System SafetyCore вызвало опасения в отношении приватности чатов. Разработчик пояснил: ИИ-приложение не сканирует контент на стороне клиента, а лишь классифицирует его по запросу Google Messages.

О намерении Google усилить защиту обмена сообщениями в Android с помощью ИИ стало известно в октябре прошлого года. Механизм SafetyCore на тот момент проходил тестирование, а теперь его начали подключать на устройствах с ОС версий 9 и выше, а также с Android Go.

«SafetyCore — это новая системная служба Android 9+, создающая на устройстве инфраструктуру для безопасной и конфиденциальной классификации контента с тем, чтобы пользователи могли отсеивать нежелательные сообщения», — заявил представитель Google в ответ на запрос The Hacker News о комментарии.

Отсутствие оснований для опасений подтвердили участники проекта GrapheneOS, которые и сами бы не прочь внедрить решение Google, но исходники SafetyCore закрыты.

«Google Messages использует новое приложение для категоризации сообщений: спам, вредоносные, обнаженка и т. п. О попытках детекта нелегального контента с отправкой отчетов на сервис здесь и речи нет».

От себя добавим: новая фича Google схожа с защитой Communication Safety, которую Apple реализовала для iMessage. Там тоже локально используется ИИ, и по результатам анализа аттачей пользователям выводятся предупреждения.

Нейросеть сочла фамилию Драгунский пропагандой наркотиков

Нейросеть приняла фамилию писателей Драгунских за возможную пропаганду наркотиков. В результате в книготорговые сети начали поступать требования о маркировке произведений этих авторов, в том числе книг Виктора Драгунского, который не подпадает под действие поправок в антинаркотическое законодательство, вступивших в силу 1 марта 2026 года.

Генеральный директор издательства «Эксмо» Евгений Капьев в личном телеграм-канале связал это с тем, что фамилия созвучна английскому слову drug. По его словам, каждый подобный случай приходится проверять вручную.

В пресс-службе издательства РБК пояснили, что такие ситуации — один из типичных казусов, с которыми сталкивается книжная отрасль. Как уточнили в «Эксмо», нейросетевые инструменты сегодня довольно широко используются для проверки контента: они выделяют потенциально проблемные фрагменты в произведениях. В итоге в одну из книготорговых сетей действительно поступило заключение о возможной необходимости маркировки книг Драгунского, однако без уточнения, идёт ли речь о Викторе или Денисе Драгунском.

«Законов и регулирования много, а ИИ настраивают специально максимально широко, чтобы ничего не пропустить. <...> Это лишь в очередной раз иллюстрирует, как непросто нам, книжникам, подстроиться под требования о маркировке упоминаний наркотиков в связи с необходимостью автоматизированной и ручной проверки огромного количества наименований — более трёх миллионов, вышедших с августа 1990 года», — говорится в заявлении пресс-службы «Эксмо».

В издательстве отдельно подчеркнули, что продажи книг Виктора Драгунского не приостанавливались.

Денис Драгунский в комментарии для РБК назвал ситуацию очень смешной и достойной сатирического рассказа:

«Я на самом деле пропагандирую любовь между мужчиной и женщиной, свежий взгляд на природу, на человеческие взаимоотношения, борьбу с социальным неравенством, ну, а также дружбу народов и мир во всём мире. Но это, конечно, очень смешно. Напоминает какой-то сатирический рассказ, но его надо ещё написать. Может, я напишу».

RSS: Новости на портале Anti-Malware.ru