Amazon просят прекратить продажу системы распознавания лиц полицейским

Amazon просят прекратить продажу системы распознавания лиц полицейским

Amazon просят прекратить продажу системы распознавания лиц полицейским

Джефф Безос, глава Amazon, во вторник получил письмо от Американского союза защиты гражданских свобод, в котором требовалось прекратить продавать правоохранительным органам систему распознавания лиц, основанную на искусственном интеллекте.

Инструмент, получивший имя Rekognition, может распознать до 100 человек на одном изображении, а также быстро находить лица в базе данных, содержащей десятки миллионов фотографий.

«Вы просто загружаете изображение или видео, а API Rekognition может идентифицировать объекты, людей, текст, сцены и действия, а также обнаружить любой неприемлемый контент», — так описывает инструмент сама Amazon. — «Amazon Rekognition также обеспечивает высокоточный анализ и распознавание лиц».

Согласно длившемуся шесть месяцев расследованию, система Rekognition была внедрена в ряде агентств по всей Америке, включая полицейский участок в Орландо и Флориде. В округе Вашингтон было создано мобильное приложение на основе этого сервиса, таким образом, сотрудники органов могли сканировать любое изображение и сравнивать его с базой данных, в которой содержались 300 000 лиц.

Запись в блоге Amazon Web Services, датированная июнем прошлого года, упоминает случаи использования Rekognition правоохранительными органами. В частности, рассматриваются успешные случаи применения этого сервиса, которые приводили к опознанию преступника и его задержанию.

В опубликованном в начале этого месяца на YouTube видео сотрудник Amazon рассказывает, что вышеупомянутая система может распознать и найти мэра, как и любого другого человека, представляющего интерес.

Претензии Американского союза защиты гражданских свобод довольно очевидны — наличие такого мощного сервиса в руках правоохранителей может нанести серьезный удар по конфиденциальности отдельных граждан.

Подпишитесь на новости

Хаусфишинг: продавцы жилья теперь приукрашивают фото с помощью ИИ

В Великобритании распространяется хаусфишинг: продавцы недвижимости редактируют фотографии объектов нейросетями или полностью заменяют их сгенерированными снимками. Название придумали по аналогии с кетфишингом, когда человек выдает себя в интернете за другого.

Об этом сообщает BBC (ресурс заблокирован на территории России). С подменой столкнулась Оливия Николь, которая искала жилье на Rightmove, крупнейшей платформе недвижимости в стране.

На просмотре выяснилось, что комнаты и окна заметно меньше, чем на фотографиях, а за диваном есть выступ стены, которого на снимках не было.

«Комнаты оказались гораздо меньше, чем на фотографиях, а обстановка совершенно другой», — рассказала она.

Блогер и специалист по недвижимости Джек Бушрод заметил, что за последние полгода объявлений с обработанными нейросетью фото стало заметно больше, и в большинстве из них об обработке не сказано.

По его словам, был случай, когда ИИ убрал из дома колонну и добавил окно. На других снимках нейросеть скрывает пятна на коврах и трещины на плитке.

Специалисты считают допустимым убирать с помощью ИИ лишние предметы или расставлять мебель в пустой комнате. Такие фото, по их мнению, должны сопровождаться пометкой об изменениях.

RSS: Новости на портале Anti-Malware.ru