Amazon просят прекратить продажу системы распознавания лиц полицейским

Amazon просят прекратить продажу системы распознавания лиц полицейским

Amazon просят прекратить продажу системы распознавания лиц полицейским

Джефф Безос, глава Amazon, во вторник получил письмо от Американского союза защиты гражданских свобод, в котором требовалось прекратить продавать правоохранительным органам систему распознавания лиц, основанную на искусственном интеллекте.

Инструмент, получивший имя Rekognition, может распознать до 100 человек на одном изображении, а также быстро находить лица в базе данных, содержащей десятки миллионов фотографий.

«Вы просто загружаете изображение или видео, а API Rekognition может идентифицировать объекты, людей, текст, сцены и действия, а также обнаружить любой неприемлемый контент», — так описывает инструмент сама Amazon. — «Amazon Rekognition также обеспечивает высокоточный анализ и распознавание лиц».

Согласно длившемуся шесть месяцев расследованию, система Rekognition была внедрена в ряде агентств по всей Америке, включая полицейский участок в Орландо и Флориде. В округе Вашингтон было создано мобильное приложение на основе этого сервиса, таким образом, сотрудники органов могли сканировать любое изображение и сравнивать его с базой данных, в которой содержались 300 000 лиц.

Запись в блоге Amazon Web Services, датированная июнем прошлого года, упоминает случаи использования Rekognition правоохранительными органами. В частности, рассматриваются успешные случаи применения этого сервиса, которые приводили к опознанию преступника и его задержанию.

В опубликованном в начале этого месяца на YouTube видео сотрудник Amazon рассказывает, что вышеупомянутая система может распознать и найти мэра, как и любого другого человека, представляющего интерес.

Претензии Американского союза защиты гражданских свобод довольно очевидны — наличие такого мощного сервиса в руках правоохранителей может нанести серьезный удар по конфиденциальности отдельных граждан.

Android запретит доступ к экрану «лишним» приложениям

Google, похоже, готовит ещё одно нововведение по части безопасности Android. В тестовой сборке Android Canary 2602 обнаружена новая функция для Advanced Protection Mode — режима «максимальной защиты», который компания представила в Android 16.

Теперь Advanced Protection Mode может ограничивать работу приложений, использующих AccessibilityService API, если они не классифицированы как инструменты для доступности.

AccessibilityService API — это мощный механизм Android, изначально созданный для помощи людям с ограниченными физическими возможностями. С его помощью приложения могут читать содержимое экрана, отслеживать действия пользователя и даже выполнять жесты от его имени.

Именно поэтому этот API часто становился инструментом атакующих. За последние годы многие приложения — от автоматизаторов и лаунчеров до «оптимизаторов» и антивирусов — использовали его для обхода системных ограничений. Формально ради удобства, однако на деле получая очень широкие права.

Google постепенно ужесточала политику. Приложения, действительно предназначенные для помощи людям с ограниченными возможностями, должны указывать специальный атрибут isAccessibilityTool. К ним относятся экранные дикторы, системы управления жестами, голосовой ввод, брайлевские интерфейсы и другие специализированные инструменты.

По данным аналитиков, в новой версии Android Canary  при включении Advanced Protection Mode система:

  • запрещает выдавать разрешение Accessibility Service приложениям, не признанным Accessibility Tools;
  • автоматически отзывает уже выданные разрешения у таких приложений.

Если приложение сильно зависит от этого API, оно просто перестанет работать.

В тестах, например, приложение dynamicSpot (эмулирующее Dynamic Island на Android) становилось недоступным: пункт был с пометкой «Restricted by Advanced Protection». Причина простая: оно использует AccessibilityService для чтения уведомлений и отображения поверх других приложений.

Инструменты, официально классифицированные как средства доступности, под ограничения не попадают.

RSS: Новости на портале Anti-Malware.ru