Google заблокировал аккаунт отца, отправившего врачам обнажённого сына

Google заблокировал аккаунт отца, отправившего врачам обнажённого сына

Google заблокировал аккаунт отца, отправившего врачам обнажённого сына

Автоматическая система Google по распознанию детского порно блокирует аккаунты родителей, обратившихся за помощью к педиатрам. Техногигант заявляет на пользователей в полицию, восстановить доступ к сервисам невозможно.

О таких историях пишет The New York Times. Технологические гиганты ежегодно отмечают миллионы детских фотографий как потенциально опасный контент. В 2021 году только один Google отправил 600 тыс. подобных отчетов и отключил 270 тыс. аккаунтов.

Журналисты приводят истории двух американских отцов, которые обращались за помощью к педиатрам. Беспокойство родителей вызывали половые органы подростков. Для онлайн-консультации клиники просили сфотографировать гениталии детей.

Через два дня после того, как родители сделали фото на свои Android-смартфоны и отправили снимки по электронной почте врачам, аккаунты отцов были заблокированы. Они потеряли доступ к облачным хранилищам, контактам, почте и мессенджеру.

Google также уведомил полицию о недопустимом контенте. В обоих случаях шериф разобрался в ситуации и закрыл дела. При этом сам Google отказался вернуть доступ к заблокированным ресурсам. На все запросы техногигант ответил отказом без дальнейших объяснений.

Первым шагом в борьбе с распространением детского порно стала база PhotoDNA, выпущенная Microsoft в 2009 году. Изображения недопустимого характера преобразовываются в уникальные цифровые коды. На вооружение систему взяли многие технологические компании, включая запрещенный в России Facebook (Facebook принадлежит Meta, признанной экстремистской в России).

Эта технология и отметила фотографии детей, отправленные педиатрам через сервисы Google. На обвинения во вмешательстве в частную жизнь, представители техногиганта отвечают, что система сканирует фотоальбомы только в том случае, если владелец Android-устройства добровольно соглашается на это, например, когда сохраняет фото в облаке.

В январе 2020 года стало известно, что Apple тоже сканирует “облачные” фотография пользователей на предмет эксплуатации детских изображений.

Android запретит доступ к экрану «лишним» приложениям

Google, похоже, готовит ещё одно нововведение по части безопасности Android. В тестовой сборке Android Canary 2602 обнаружена новая функция для Advanced Protection Mode — режима «максимальной защиты», который компания представила в Android 16.

Теперь Advanced Protection Mode может ограничивать работу приложений, использующих AccessibilityService API, если они не классифицированы как инструменты для доступности.

AccessibilityService API — это мощный механизм Android, изначально созданный для помощи людям с ограниченными физическими возможностями. С его помощью приложения могут читать содержимое экрана, отслеживать действия пользователя и даже выполнять жесты от его имени.

Именно поэтому этот API часто становился инструментом атакующих. За последние годы многие приложения — от автоматизаторов и лаунчеров до «оптимизаторов» и антивирусов — использовали его для обхода системных ограничений. Формально ради удобства, однако на деле получая очень широкие права.

Google постепенно ужесточала политику. Приложения, действительно предназначенные для помощи людям с ограниченными возможностями, должны указывать специальный атрибут isAccessibilityTool. К ним относятся экранные дикторы, системы управления жестами, голосовой ввод, брайлевские интерфейсы и другие специализированные инструменты.

По данным аналитиков, в новой версии Android Canary  при включении Advanced Protection Mode система:

  • запрещает выдавать разрешение Accessibility Service приложениям, не признанным Accessibility Tools;
  • автоматически отзывает уже выданные разрешения у таких приложений.

Если приложение сильно зависит от этого API, оно просто перестанет работать.

В тестах, например, приложение dynamicSpot (эмулирующее Dynamic Island на Android) становилось недоступным: пункт был с пометкой «Restricted by Advanced Protection». Причина простая: оно использует AccessibilityService для чтения уведомлений и отображения поверх других приложений.

Инструменты, официально классифицированные как средства доступности, под ограничения не попадают.

RSS: Новости на портале Anti-Malware.ru