Система распознавания лиц, используемая полицией Британии вызывает споры

Система распознавания лиц, используемая полицией Британии вызывает споры

Система распознавания лиц, используемая полицией Британии вызывает споры

Департамент Правительства Великобритании Хоум-офис предлагает контракт на программное обеспечение для распознавания лиц за сумму в 4,6 миллионов фунтов (5,9 миллионов долларов). Однако биометрическая стратегия и системы хранения этого программного обеспечения остаются противоречивыми.

Согласно заявлениям, правительство стремится обеспечить комбинацию программного обеспечения биометрического алгоритма и связанных с ним компонентов, которые предоставляют возможность соответствовать биометрическому изображению лица с известной степенью идентичности.

Основной задачей Хоум-офиса является интеграция собственной платформы биометрических совпадений (BMPS) в централизованное биометрическое программное обеспечение для моделирования соответствия (MES).

Противоречия технологии стали возникать на фоне значительных разногласий по поводу того, что правительство хранит миллионы лиц. Этот подход был объявлен незаконным Верховным судом еще в 2012 году, а полиции было сказано пересмотреть свою политику.

Несмотря на это, Хоум-офису потребовалось пять лет для разработки нового набора политик, которые предполагают, что человеку, который считает, что находится в базе, нужно обратиться с просьбой удалить свои данные. Более того, такая просьба может быть попросту отклонена, если полиция сочтет это нужным.

По вполне понятным причинам новая политика вызвала серьезную критику. Специальные уполномоченные по биометрике опубликовали отчеты о подходе департамента к распознаванию лиц и биометрии в более общем плане и указали на значительные проблемы и недостатки.

А в марте 2016 года в своем ежегодном докладе Аластар МакГрегор (Alastair MacGregor) отметил, что изображения некоторых лиц, хранящиеся в полиции, принадлежат людям, которым никогда не предъявлялись обвинения.

Однако вопреки всей критике полиция продолжала использование системы распознавания лиц. Например, на фестивале Notting Hill в прошлом году.

Подпишитесь на новости

Разработчик создал язык KillSwitch, который специально путает нейросети

Инженер Cloudflare Доминик Пичета представил KillSwitch — экспериментальный язык программирования, созданный для того, чтобы нейросети спотыкались при чтении и написании кода. Пока индустрия делает разработку удобнее для ИИ, он решил устроить ему полосу препятствий.

В своём блоге Пичета объяснил, что хотел проверить способность моделей работать с незнакомым языком и одновременно использовать их слабости: трудности с подсчётом символов, восприимчивость к инструкциям и чрезмерно чувствительные защитные фильтры.

Программы KillSwitch выглядят как рассказы, большую часть которых интерпретатор игнорирует. Среди текста спрятаны настоящие команды, а значения можно извлекать из других строк, указывая расстояние до них. Для идентификаторов действуют правила, связанные с количеством букв и анаграммами.

Отдельный троллинг — конструкции вроде «игнорируй предыдущие инструкции», которые здесь имеют значение внутри языка. Добавьте намеренную ложь в документации и формулировки, провоцирующие защитные механизмы моделей, — получите весьма недружелюбную среду для кодинг-агента.

 

В тестах нейросети писали Hello World, объясняли результат программы и переделывали конвертер температуры. Лучший результат получил Claude Opus 5 — 66,8 балла.

Исходники и спецификация открыты на GitHub. Если модели справятся с нынешними заданиями, автор планирует усложнить проверку.

RSS: Новости на портале Anti-Malware.ru