Система распознавания лиц, используемая полицией Британии вызывает споры

Система распознавания лиц, используемая полицией Британии вызывает споры

Система распознавания лиц, используемая полицией Британии вызывает споры

Департамент Правительства Великобритании Хоум-офис предлагает контракт на программное обеспечение для распознавания лиц за сумму в 4,6 миллионов фунтов (5,9 миллионов долларов). Однако биометрическая стратегия и системы хранения этого программного обеспечения остаются противоречивыми.

Согласно заявлениям, правительство стремится обеспечить комбинацию программного обеспечения биометрического алгоритма и связанных с ним компонентов, которые предоставляют возможность соответствовать биометрическому изображению лица с известной степенью идентичности.

Основной задачей Хоум-офиса является интеграция собственной платформы биометрических совпадений (BMPS) в централизованное биометрическое программное обеспечение для моделирования соответствия (MES).

Противоречия технологии стали возникать на фоне значительных разногласий по поводу того, что правительство хранит миллионы лиц. Этот подход был объявлен незаконным Верховным судом еще в 2012 году, а полиции было сказано пересмотреть свою политику.

Несмотря на это, Хоум-офису потребовалось пять лет для разработки нового набора политик, которые предполагают, что человеку, который считает, что находится в базе, нужно обратиться с просьбой удалить свои данные. Более того, такая просьба может быть попросту отклонена, если полиция сочтет это нужным.

По вполне понятным причинам новая политика вызвала серьезную критику. Специальные уполномоченные по биометрике опубликовали отчеты о подходе департамента к распознаванию лиц и биометрии в более общем плане и указали на значительные проблемы и недостатки.

А в марте 2016 года в своем ежегодном докладе Аластар МакГрегор (Alastair MacGregor) отметил, что изображения некоторых лиц, хранящиеся в полиции, принадлежат людям, которым никогда не предъявлялись обвинения.

Однако вопреки всей критике полиция продолжала использование системы распознавания лиц. Например, на фестивале Notting Hill в прошлом году.

Бигтех в России просит открыть обезличенные данные граждан для обучения ИИ

Российскому ИИ не хватает данных, а закон, по мнению бигтеха, держит их под замком. Ассоциация больших данных, в которую входят «Авито», «Сбер», «Ростелеком», «Яндекс», HH и VK, попросила Минцифры упростить использование обезличенной персональной информации для разработки и обучения нейросетей.

Сейчас любое алгоритмическое преобразование персональных данных считается обезличиванием.

Даже если технология практически исключает возможность установить личность человека, полученный массив всё равно остаётся персональными данными со всеми сопутствующими ограничениями. Защита вроде бы сработала, а юридический хвост никуда не делся.

АБД, по данным КоммерсантЪ, предлагает выделить технологии повышения приватности — Privacy Enhancing Technologies, или PETs — в отдельную категорию. Они позволяют обрабатывать, передавать и хранить информацию без раскрытия личности. Если риск идентификации равен нулю или составляет малые доли процента, такие данные предлагается использовать для ИИ без согласия граждан.

Обработка при этом должна проходить в России, российскими компаниями и только для разработки, обучения и применения ИИ. Кроме того, ассоциация предлагает ввести доверенных посредников — аккредитованные организации, которые будут хранить обезличенные массивы и предоставлять к ним доступ. Данные также хотят разделить на бесплатные, необходимые для исполнения закона, и платные — для коммерческих задач.

Участники рынка объясняют инициативу просто: российских датасетов мало, а большая их часть заперта внутри крупных экосистем. Собственные и партнёрские массивы уже не закрывают аппетиты современных моделей, особенно специализированных корпоративных решений.

Альтернативой остаются синтетические данные — искусственно созданные наборы без сведений о реальных людях. Но полностью заменить ими отраслевую статистику, поведенческие закономерности и другие ценные выборки получится не всегда.

Теперь мяч у Минцифры, которое на обращение пока не ответило. Бигтех тем временем даёт понять: без свежих данных российский ИИ далеко не уедет, сколько вычислительных мощностей ему ни подбрасывай.

RSS: Новости на портале Anti-Malware.ru