Система распознавания лиц от Amazon узнала в политиках США преступников

Система распознавания лиц от Amazon узнала в политиках США преступников

Система распознавания лиц от Amazon узнала в политиках США преступников

Американский союз защиты гражданских свобод (ACLU) провел тестирование системы распознавания лиц Rekognition от Amazon. Результаты показали, что система ошибочно определила 28 членов Конгресса как уголовников.

По словам проводивших эксперимент специалистов, они загрузили 25 000 фотографий под арестом (магшот) из публичного источника, а затем сопоставили их с официальными фотографиями всех 535 членов Конгресса.

В итоге Rekognition нашла 28 совпадений, из которых 6 пришлось на чернокожих политиков. Системы распознавания лиц известны своими погрешностями при распознавании чернокожих людей.

Представители партии Congressional Black Caucus, состоящей преимущественно из афроамериканцев, давно выказывали обеспокоенность Rekognition по поводу «глубоких негативных последствий» использования такой технологии.

Проблема с ложными опознаниями, по мнению некоторых экспертов, может привести к конфликтам чернокожих граждан с правоохранительными органами. Стоит отметить, что Rekognition уже использует ряд полицейских отделений по всей Америке.

Исходя из результатов теста, ACLU призывает Конгресс пересмотреть свою позицию относительно использования правоохранителями системы распознавания лиц от Amazon.

Весь эксперимент обошелся союзу всего в $12,33.

45% российских компаний внедряют ИИ без бюджета на его защиту

На ЦИПР-2026 представили первые данные исследования «Солара», Б1, Ассоциации ФинТех и HiveTrace о внедрении ИИ в российских компаниях. Картина получилась ожидаемая: бизнес активно тащит нейросети в процессы, но безопасность местами опять идёт где-то следом.

По данным исследования, около 80% российских компаний уже в том или ином виде интегрируют ИИ в бизнес-процессы.

Ещё 35% считают его стратегическим приоритетом на ближайшие годы. При этом 45% компаний не выделяют отдельный бюджет на защиту ИИ, а формализованные политики ИБ для ИИ-сервисов есть только у 25%.

То есть ИИ уже помогает писать код, обрабатывать документы, отвечать клиентам, прогнозировать спрос, искать недвижимость, оценивать чистоту автомобилей и даже подбирать шихтовые материалы для сталеплавильной печи. Но отдельный вопрос «а кто всё это будет защищать?» у многих пока обходится стороной.

В исследовании приведены кейсы «Ростелекома», «Делимобиля», Альфа-Банка, «АльфаСтрахования», ТМК и «Циана». Компании используют ИИ в контакт-центрах, базах знаний, разработке, триаже уязвимостей, динамическом ценообразовании, оценке фото, модерации, поиске недвижимости и промышленных расчётах.

При этом сами участники рынка хорошо понимают, где болит. Среди ключевых рисков использования ИИ компании называют утечки данных — их отметили 80% респондентов. Ещё 60% опасаются некорректной генерации контента, а 54% — компрометации источников данных и баз знаний.

Есть и внешние угрозы. Российские компании считают наиболее опасными автоматизацию разведки и атак с помощью ИИ (67%), генерацию вредоносного кода (54%) и дипфейки, которые усиливают социальную инженерию (51%).

RSS: Новости на портале Anti-Malware.ru