Система распознавания лиц, используемая полицией Британии вызывает споры

Система распознавания лиц, используемая полицией Британии вызывает споры

Система распознавания лиц, используемая полицией Британии вызывает споры

Департамент Правительства Великобритании Хоум-офис предлагает контракт на программное обеспечение для распознавания лиц за сумму в 4,6 миллионов фунтов (5,9 миллионов долларов). Однако биометрическая стратегия и системы хранения этого программного обеспечения остаются противоречивыми.

Согласно заявлениям, правительство стремится обеспечить комбинацию программного обеспечения биометрического алгоритма и связанных с ним компонентов, которые предоставляют возможность соответствовать биометрическому изображению лица с известной степенью идентичности.

Основной задачей Хоум-офиса является интеграция собственной платформы биометрических совпадений (BMPS) в централизованное биометрическое программное обеспечение для моделирования соответствия (MES).

Противоречия технологии стали возникать на фоне значительных разногласий по поводу того, что правительство хранит миллионы лиц. Этот подход был объявлен незаконным Верховным судом еще в 2012 году, а полиции было сказано пересмотреть свою политику.

Несмотря на это, Хоум-офису потребовалось пять лет для разработки нового набора политик, которые предполагают, что человеку, который считает, что находится в базе, нужно обратиться с просьбой удалить свои данные. Более того, такая просьба может быть попросту отклонена, если полиция сочтет это нужным.

По вполне понятным причинам новая политика вызвала серьезную критику. Специальные уполномоченные по биометрике опубликовали отчеты о подходе департамента к распознаванию лиц и биометрии в более общем плане и указали на значительные проблемы и недостатки.

А в марте 2016 года в своем ежегодном докладе Аластар МакГрегор (Alastair MacGregor) отметил, что изображения некоторых лиц, хранящиеся в полиции, принадлежат людям, которым никогда не предъявлялись обвинения.

Однако вопреки всей критике полиция продолжала использование системы распознавания лиц. Например, на фестивале Notting Hill в прошлом году.

Браузер OpenAI можно было заставить спамить контактам в WhatsApp

ИИ-браузеры обещали самостоятельно разбираться с рутиной, но исследователи Zenity выяснили: иногда они столь же самостоятельно начинают выполнять команды злоумышленников. Специалисты обнаружили около 20 уязвимостей в браузерах и расширениях от OpenAI, Google, Anthropic, Microsoft и Perplexity.

Самый эффектный трюк провернули с OpenAI Atlas. Исследователи разместили на поддельной странице подписки скрытые инструкции на иврите.

Они убедили агента, что тот работает в песочнице с вымышленными пользователями, после чего Atlas открыл WhatsApp Web (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России) и начал рассылать сообщение контактам владельца аккаунта.

Получился зачаток цифрового червя: один заражённый пользователь зовёт остальных на ту же страницу.

Уязвимость находилась не в WhatsApp. Атакующие обманули сам ИИ-браузер, который смешал законную просьбу пользователя с командами сайта. В Zenity называют это столкновением намерений.

Затем исследователи отправили Atlas на Amazon. Агент добавил новый адрес доставки и положил планшет в корзину, но перед оплатой упёрся в защитные ограничения OpenAI. Казалось бы, приехали. Однако Atlas попросил совершить покупку встроенного помощника Rufus, и тот послушно оплатил товар, решив, что общается с владельцем аккаунта.

Другие найденные изъяны позволяли получать доступ к локальным устройствам, красть файлы, перехватывать управление менеджером паролей и выгружать историю браузера.

В OpenAI заявили, что получили отчёт Zenity в январе и уже усилили защиту Atlas. Сам браузер компания отключит 9 августа, а новые механизмы перенесёт в браузерные функции приложения ChatGPT.

RSS: Новости на портале Anti-Malware.ru