Ошибка системы распознавания лиц стоила американцу 10 дней в изоляторе

Ошибка системы распознавания лиц стоила американцу 10 дней в изоляторе

Ошибка системы распознавания лиц стоила американцу 10 дней в изоляторе

Темнокожий гражданин США утверждает, что система распознавания лиц ошибочно «узнала» в нём преступника. Теперь у отдельных американцев появился очередной повод обвинить западную власть в расовой предвзятости.

Согласно новому исковому заявлению, ошибка системы распознавания лиц стоила Найджиру Парксу десяти дней в изоляторе. Как утверждает сам пострадавший, его приняли за подозреваемого в эпизодах кражи из магазинов.

В невиновности гражданина правоохранителей не убедило даже то, что Паркс не появлялся в тех местах, где происходили кражи. Главное — система опознала его, этого оказалось достаточно для задержания.

«Я понятия не имею, к чему всё это было. Ранее я никогда не был в Вудбридже [там произошли кражи — прим. AM], даже толком не знал, где находится этот город», — объясняет сам Паркс.

Все эти доводы оказались бессильны перед настойчивостью правоохранителей, гласит исковое заявление. Судя по всему, стражи правопорядка просто слепо доверились новым технологиям.

«У меня есть определённые "прошлые заслуги", однако с 2016 года я вёл себя как добропорядочный гражданин — у меня не было никаких проблем. Вся эта ситуация жутко испугала меня, ведь я пытался направить свою жизнь в верное русло», — заключает Паркс.

Точка Банк запустил ИИ-проверку сайтов и соцсетей бизнеса на скрытые схемы

Точка Банк представил на Уральском форуме «Кибербезопасность в финансах» собственный сервис ИИ-мониторинга для проверки сайтов и соцсетей бизнеса. Сервис встроен в процессы банка и автоматически анализирует онлайн-площадки клиентов перед подключением интернет-эквайринга. Проверка проводится не один раз — мониторинг продолжается и дальше на регулярной основе.

Главная особенность решения — оно оценивает не только сайты, но и страницы в соцсетях. Сейчас система уже умеет проверять магазины во «ВКонтакте», в перспективе планируется добавить мониторинг телеграм-каналов юридических лиц.

ИИ-мониторинг проверяет несколько вещей. Во-первых, наличие вредоносного кода — например, если на сайте размещён скрипт, который может перехватывать данные банковских карт или доступ к интернет-банку.

Во-вторых, анализируется содержание площадки: большие языковые модели оценивают тексты и ищут признаки скрытой или запрещённой деятельности. В-третьих, система отслеживает продажу запрещённых товаров и услуг — например, если под видом одной продукции фактически рекламируется другая.

В банке подчёркивают, что результаты автоматической проверки не являются окончательными: все подозрительные случаи передаются специалисту для дополнительного анализа, и решение принимается уже с учётом полной картины.

По словам Андрея Румянцева, лидера направления машинного обучения в Точка Банке, сервис настроен именно под задачи проверки бизнес-площадок и обучен на большом массиве сайтов юридических лиц.

Технология, по его словам, должна помочь банку снижать риски работы с недобросовестными компаниями, а предпринимателям — вовремя замечать проблемы на своих онлайн-ресурсах.

Фактически речь идёт о ещё одном уровне проверки цифрового присутствия бизнеса — с упором не только на техническую безопасность, но и на содержание.

RSS: Новости на портале Anti-Malware.ru