Система распознавания лиц от Amazon узнала в политиках США преступников

Система распознавания лиц от Amazon узнала в политиках США преступников

Система распознавания лиц от Amazon узнала в политиках США преступников

Американский союз защиты гражданских свобод (ACLU) провел тестирование системы распознавания лиц Rekognition от Amazon. Результаты показали, что система ошибочно определила 28 членов Конгресса как уголовников.

По словам проводивших эксперимент специалистов, они загрузили 25 000 фотографий под арестом (магшот) из публичного источника, а затем сопоставили их с официальными фотографиями всех 535 членов Конгресса.

В итоге Rekognition нашла 28 совпадений, из которых 6 пришлось на чернокожих политиков. Системы распознавания лиц известны своими погрешностями при распознавании чернокожих людей.

Представители партии Congressional Black Caucus, состоящей преимущественно из афроамериканцев, давно выказывали обеспокоенность Rekognition по поводу «глубоких негативных последствий» использования такой технологии.

Проблема с ложными опознаниями, по мнению некоторых экспертов, может привести к конфликтам чернокожих граждан с правоохранительными органами. Стоит отметить, что Rekognition уже использует ряд полицейских отделений по всей Америке.

Исходя из результатов теста, ACLU призывает Конгресс пересмотреть свою позицию относительно использования правоохранителями системы распознавания лиц от Amazon.

Весь эксперимент обошелся союзу всего в $12,33.

Переписки с DeepSeek попали в поисковую выдачу Google

Переписки пользователей с китайским ИИ-сервисом DeepSeek, включая русскоязычные, обнаружились в выдаче Google. Чтобы заглянуть в чужие разговоры с нейросетью, достаточно специального поискового запроса.

Речь идёт о страницах Shared Conversations — диалогах, которыми сами пользователи поделились по публичным ссылкам.

На таких страницах видны все вопросы и ответы, а также названия загруженных документов, убедился корреспондент ТАСС. Скачать сами файлы, в том числе через код страницы, журналистам не удалось.

В MWS AI считают, что новой утечки здесь нет. По словам представителей компании, ещё год назад поисковики проиндексировали тысячи публичных диалогов с чат-ботами. Сообщений о взломе DeepSeek или получении доступа к закрытой истории переписок тоже не появлялось.

Вероятнее всего, в поисковую выдачу попали старые либо намеренно опубликованные страницы. Получить через них доступ к аккаунту владельца или его закрытым чатам нельзя. Иными словами, DeepSeek не распахнул двери в личные кабинеты — пользователи сами оставили некоторые разговоры у входа, а Google аккуратно добавил их в каталог.

В Яндексе тем временем заверили, что ссылки на диалоги с «Алисой AI» закрыты от индексации. Они создаются только по инициативе пользователя, действуют 14 дней и могут быть отозваны. Прикреплённые файлы получателю не передаются, а продолжение чужого диалога остаётся приватным.

RSS: Новости на портале Anti-Malware.ru