Amazon просят прекратить продажу системы распознавания лиц полицейским

Amazon просят прекратить продажу системы распознавания лиц полицейским

Amazon просят прекратить продажу системы распознавания лиц полицейским

Джефф Безос, глава Amazon, во вторник получил письмо от Американского союза защиты гражданских свобод, в котором требовалось прекратить продавать правоохранительным органам систему распознавания лиц, основанную на искусственном интеллекте.

Инструмент, получивший имя Rekognition, может распознать до 100 человек на одном изображении, а также быстро находить лица в базе данных, содержащей десятки миллионов фотографий.

«Вы просто загружаете изображение или видео, а API Rekognition может идентифицировать объекты, людей, текст, сцены и действия, а также обнаружить любой неприемлемый контент», — так описывает инструмент сама Amazon. — «Amazon Rekognition также обеспечивает высокоточный анализ и распознавание лиц».

Согласно длившемуся шесть месяцев расследованию, система Rekognition была внедрена в ряде агентств по всей Америке, включая полицейский участок в Орландо и Флориде. В округе Вашингтон было создано мобильное приложение на основе этого сервиса, таким образом, сотрудники органов могли сканировать любое изображение и сравнивать его с базой данных, в которой содержались 300 000 лиц.

Запись в блоге Amazon Web Services, датированная июнем прошлого года, упоминает случаи использования Rekognition правоохранительными органами. В частности, рассматриваются успешные случаи применения этого сервиса, которые приводили к опознанию преступника и его задержанию.

В опубликованном в начале этого месяца на YouTube видео сотрудник Amazon рассказывает, что вышеупомянутая система может распознать и найти мэра, как и любого другого человека, представляющего интерес.

Претензии Американского союза защиты гражданских свобод довольно очевидны — наличие такого мощного сервиса в руках правоохранителей может нанести серьезный удар по конфиденциальности отдельных граждан.

Подпишитесь на новости

В Госдуме предложили отмечать участие ИИ в медицинских заключениях

Нейросеть помогла разобрать снимок или результаты обследования? Пациент должен об этом знать. Депутат Госдумы Борис Чернышов предложил обязать медорганизации сообщать об использовании ИИ при анализе медицинских данных. Обращение направлено главе Минздрава Михаилу Мурашко.

Как сообщает ТАСС, если алгоритм участвовал в анализе медицинских изображений, результатов исследований или других данных для диагностики, в бумажном либо электронном документе должна появиться соответствующая отметка.

В ней предлагается указывать, что при анализе применялся искусственный интеллект, а итоговое медицинское заключение принял медицинский работник. Так пациент сможет увидеть, где врачу помогала нейросеть.

При этом собирать отдельное согласие на каждое применение ИИ Чернышов не предлагает. По его мнению, уведомление должно давать человеку информацию и обходиться без дополнительной бюрократии для клиник.

Депутат считает, что внедрение ИИ в здравоохранение нужно поддерживать: такие системы помогают анализировать большие объёмы данных и выявлять патологии. Но пациент вправе понимать, как получен результат его обследования.

Однако стоит учитывать, что пока это просто обращение к министру. Новую обязанность для медорганизаций ещё не установили.

RSS: Новости на портале Anti-Malware.ru