Ошибка системы распознавания лиц стоила американцу 10 дней в изоляторе

Ошибка системы распознавания лиц стоила американцу 10 дней в изоляторе

Ошибка системы распознавания лиц стоила американцу 10 дней в изоляторе

Темнокожий гражданин США утверждает, что система распознавания лиц ошибочно «узнала» в нём преступника. Теперь у отдельных американцев появился очередной повод обвинить западную власть в расовой предвзятости.

Согласно новому исковому заявлению, ошибка системы распознавания лиц стоила Найджиру Парксу десяти дней в изоляторе. Как утверждает сам пострадавший, его приняли за подозреваемого в эпизодах кражи из магазинов.

В невиновности гражданина правоохранителей не убедило даже то, что Паркс не появлялся в тех местах, где происходили кражи. Главное — система опознала его, этого оказалось достаточно для задержания.

«Я понятия не имею, к чему всё это было. Ранее я никогда не был в Вудбридже [там произошли кражи — прим. AM], даже толком не знал, где находится этот город», — объясняет сам Паркс.

Все эти доводы оказались бессильны перед настойчивостью правоохранителей, гласит исковое заявление. Судя по всему, стражи правопорядка просто слепо доверились новым технологиям.

«У меня есть определённые "прошлые заслуги", однако с 2016 года я вёл себя как добропорядочный гражданин — у меня не было никаких проблем. Вся эта ситуация жутко испугала меня, ведь я пытался направить свою жизнь в верное русло», — заключает Паркс.

WordPress поставил ИИ на охрану плагинов, опасные релизы заблокируют

WordPress запустил автоматическую проверку безопасности каждого нового релиза плагинов. Версии с высоким уровнем риска будут блокироваться до того, как попадут в API обновлений WordPress.org и начнут устанавливаться на сайты.

С 5 июня релизы плагинов и тем уже выдерживают шестичасовую паузу перед распространением.

Теперь в это окно несколько ИИ-моделей и Jetpack Scan анализируют внесённые изменения, сверяют результаты и формируют список находок с итоговой оценкой риска.

Если оценка окажется высокой, выпуск остановят автоматически, а все разработчики с правом публикации получат письмо с объяснением причин. Остальные обновления продолжат движение в обычном режиме.

Высокий балл не означает, что автора уже пора объявлять киберпреступником. Система оценивает опасность кода, а не намерения разработчика: одинаковую реакцию могут вызвать намеренно добавленный бэкдор и случайная критическая уязвимость.

Необходимость автоматического стоп-крана показал инцидент 28 июля. Проверка обнаружила бэкдор в новой версии плагина примерно с 20 тысячами активных установок. Релиз ещё находился в шестичасовом карантине и не успел попасть в API обновлений. После уведомления от Wordfence команда закрыла плагин для скачивания за 26 минут.

Теперь ждать свободного сотрудника не потребуется: потенциально опасная сборка остановится сразу после анализа. Чтобы снять блокировку, автору предлагают изучить отчёт, исправить проблемы и опубликовать новую версию.

Если её оценка окажется ниже порога, релиз снова пройдёт стандартную процедуру. Спорные результаты можно обжаловать, но WordPress предупреждает: выпустить исправление обычно быстрее, чем ждать ручного разбора.

Команда продолжит настраивать систему и снижать число ложных срабатываний. Подробности опубликованы в официальном блоге WordPress.

RSS: Новости на портале Anti-Malware.ru