Amazon предложила решение проблемы использования системы Rekognition

Amazon предложила решение проблемы использования системы Rekognition

Один из ведущих специалистов Amazon Мэтт Вуд, занимающийся искусственным интеллектом, уверен, что в процессе разработки системы распознавания лиц, которую будет использовать полиция, необходимо участие правительства в качестве контролирующего органа.

Вуд считает, что правительство должно регулировать то, как полиция и службы безопасности используют систему распознавания лиц.

С подобным заявлением разработчик выступил после критики в адрес системы Rekognition, которой ее подверг Американский союз защиты гражданских свобод.

Таким образом, в настоящий момент есть один основной вопрос — насколько можно доверять системам вроде Rekognition, насколько же они точны. Особенно этим вопросом задается чернокожее население Соединенных Штатов, так как в их случае система ошибается чаще.

Естественно, это стало проблемой в США, где расовые предрассудки продолжают существовать и по сей день.

Со своей стороны, Вуд предложил использовать настройки системы по умолчанию (а не рекомендованные). Это поможет снизить риск ложного опознания.

«Существует разница между использованием машинного обучения для идентификации, например, еды, и использованием машинного обучения для сравнения лица человека с базой преступников», — объяснил Вуд.

«В последнем случае речь идет о действительно высокой степени риска, а также о последствиях, которые может повлечь за собой ошибка. Следовательно, требуется куда более серьезный уровень доверия к системе».

К слову, не только Amazon высказалась за участие правительства в создании правил использования системы распознавания лиц правоохранительными органами. Президент Microsoft Брэд Смит в начале этого месяца призывал к тому же.

Напомним, что Американский союз защиты гражданских свобод (ACLU) провел тестирование системы распознавания лиц Rekognition от Amazon. Результаты показали, что система ошибочно определила 28 членов Конгресса как уголовников.

По словам проводивших эксперимент специалистов, они загрузили 25 000 фотографий под арестом (магшот) из публичного источника, а затем сопоставили их с официальными фотографиями всех 535 членов Конгресса.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Российским GitHub могут назначить один из существующих репозиториев

Минцифры РФ предложило правительству отказаться от идеи создания новой платформы под национальный репозиторий открытого кода. Его можно разместить у участника рынка, а средства, выделенные на строительство, вложить в перспективные проекты open-source.

Эксперимент по созданию российского аналога GitHub был задуман несколько лет назад, однако его старт постоянно откладывался из-за отсутствия финансирования. В прошлом году выход был найден: со счетов ликвидированного фонда «Росинфокоминвест» можно снять 1,39 млрд руб. и, таким образом, сдвинуть амбициозный проект с мертвой точки.

Последний раз запуск отложили до конца текущего месяца, однако Минцифры выступило с новым предложением: не строить специальную платформу, а использовать сервис одного из участников рынка.

«Решено выбрать один из уже существующих общедоступных отечественных репозиториев вместо создания новой площадки», — уточнил для прессы представитель министерства.

Высвободившиеся деньги можно будет использовать для поддержки актуальных opensource-проектов и создания новых ИТ-продуктов — при условии, что их разместят в российских репозиториях. Если предложение Минцифры будет принято, эксперимент с российским GitHub, по ожиданиям, возобновится в ближайшие месяцы.

В России существует ряд платформ для работы с исходным кодом, которые могут выступить в качестве аналога. Игроки рынка — в основном крупные компании, такие как «Яндекс», VK, «Ростелеком», Сбер, T1.

Однако выбор площадки национального репозитория, по мнению экспертов, — не самый важный шаг. Для успешного развития проекта потребуются действенные механизмы формирования сообщества open-source и возврата доработок исходников в общий пул.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru