Система распознавания лиц от Amazon узнала в политиках США преступников

Система распознавания лиц от Amazon узнала в политиках США преступников

Система распознавания лиц от Amazon узнала в политиках США преступников

Американский союз защиты гражданских свобод (ACLU) провел тестирование системы распознавания лиц Rekognition от Amazon. Результаты показали, что система ошибочно определила 28 членов Конгресса как уголовников.

По словам проводивших эксперимент специалистов, они загрузили 25 000 фотографий под арестом (магшот) из публичного источника, а затем сопоставили их с официальными фотографиями всех 535 членов Конгресса.

В итоге Rekognition нашла 28 совпадений, из которых 6 пришлось на чернокожих политиков. Системы распознавания лиц известны своими погрешностями при распознавании чернокожих людей.

Представители партии Congressional Black Caucus, состоящей преимущественно из афроамериканцев, давно выказывали обеспокоенность Rekognition по поводу «глубоких негативных последствий» использования такой технологии.

Проблема с ложными опознаниями, по мнению некоторых экспертов, может привести к конфликтам чернокожих граждан с правоохранительными органами. Стоит отметить, что Rekognition уже использует ряд полицейских отделений по всей Америке.

Исходя из результатов теста, ACLU призывает Конгресс пересмотреть свою позицию относительно использования правоохранителями системы распознавания лиц от Amazon.

Весь эксперимент обошелся союзу всего в $12,33.

ИИ нашёл способ захватить устройство через звонок в Zoom за 20 запросов

Исследователи A Security обнаружили в Zoom уязвимости, позволявшие незаметно захватить устройство участника видеозвонка. Жертве не требовалось нажимать ссылки, открывать файлы или подтверждать действия, достаточно было оказаться на конференции с демонстрацией экрана.

Проблемы затрагивали протокол совместных аннотаций, который позволяет рисовать и оставлять пометки поверх транслируемого экрана. Уязвимыми могли оказаться как обычные участники, так и организатор встречи.

Особенно бодрит способ обнаружения: исследователи использовали общедоступные ИИ-модели. На поиск ошибок и создание рабочего прототипа атаки потребовалось менее 20 запросов. По оценке A Security, раньше подобная работа могла занять у команды из пяти специалистов около полугода.

Уязвимости затрагивали клиенты Zoom для Windows, macOS, Linux, iOS и Android. Потенциальный атакующий мог пригласить сотрудника компании на обычный звонок, захватить его компьютер и учётные данные, а затем развивать атаку внутри корпоративной сети.

Вебинары и полуоткрытые мероприятия делали сценарий ещё опаснее: к незнакомцам там относятся спокойнее, чем к подозрительным вложениям в почте.

Zoom выпустила бюллетень ZSB-26015 и подготовила патчи на стороне серверов и клиентских приложений. Пользователям стоит установить свежую версию программы и не откладывать обновление до следующего созвона.

RSS: Новости на портале Anti-Malware.ru