Amazon предложила решение проблемы использования системы Rekognition

Олег Иванов 30 Июля 2018 - 13:09

...

Amazon предложила решение проблемы использования системы Rekognition

Один из ведущих специалистов Amazon Мэтт Вуд, занимающийся искусственным интеллектом, уверен, что в процессе разработки системы распознавания лиц, которую будет использовать полиция, необходимо участие правительства в качестве контролирующего органа.

Вуд считает, что правительство должно регулировать то, как полиция и службы безопасности используют систему распознавания лиц.

С подобным заявлением разработчик выступил после критики в адрес системы Rekognition, которой ее подверг Американский союз защиты гражданских свобод.

Таким образом, в настоящий момент есть один основной вопрос — насколько можно доверять системам вроде Rekognition, насколько же они точны. Особенно этим вопросом задается чернокожее население Соединенных Штатов, так как в их случае система ошибается чаще.

Естественно, это стало проблемой в США, где расовые предрассудки продолжают существовать и по сей день.

Со своей стороны, Вуд предложил использовать настройки системы по умолчанию (а не рекомендованные). Это поможет снизить риск ложного опознания.

«Существует разница между использованием машинного обучения для идентификации, например, еды, и использованием машинного обучения для сравнения лица человека с базой преступников», — объяснил Вуд.

«В последнем случае речь идет о действительно высокой степени риска, а также о последствиях, которые может повлечь за собой ошибка. Следовательно, требуется куда более серьезный уровень доверия к системе».

К слову, не только Amazon высказалась за участие правительства в создании правил использования системы распознавания лиц правоохранительными органами. Президент Microsoft Брэд Смит в начале этого месяца призывал к тому же.

Напомним, что Американский союз защиты гражданских свобод (ACLU) провел тестирование системы распознавания лиц Rekognition от Amazon. Результаты показали, что система ошибочно определила 28 членов Конгресса как уголовников.

По словам проводивших эксперимент специалистов, они загрузили 25 000 фотографий под арестом (магшот) из публичного источника, а затем сопоставили их с официальными фотографиями всех 535 членов Конгресса.

Следующая главная новость »

Подписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Екатерина Быстрова 07 Ноября 2025 - 13:23

Общее

Опубликована программа конференции «Совершенно безопасно 3.0: Точка опоры»

Опубликована полная программа конференции «Совершенно безопасно 3.0: Точка опоры», которая пройдёт 12 ноября с 10:00 до 16:30 (МСК). В центре обсуждения — объединение подходов экономической и информационной безопасности, автоматизация, искусственный интеллект и роль человека как ключевого элемента системы защиты.

Откроет конференцию дискуссия «Экономическая и информационная безопасность: синергия защиты или конфликт компетенций».

Участники — Алексей Борисов (Фонд «Сколково»), Виктор Минин (АРСИБ), Вячеслав Гребнев (ГК Гарда), Василий Окулесский (ЦМРБанк) и Юрий Драченин (Контур.Эгида, Staffcop).

Эксперты обсудят, как объединить метрики эффективности ЭБ и ИБ, какие компетенции станут определяющими для специалистов нового поколения и как компании могут решать проблему кадрового дефицита. Модератором выступит независимый эксперт Игорь Бирюков.

Во второй части участники конференции расскажут о практических проектах и технологических изменениях.

Даниил Бориславский (Staffcop) — о том, как автоматизация меняет мышление специалистов и почему человек остаётся центром любой системы безопасности.
Антон Ломовский, Василий Прокопьев и Елена Катаева (Контур.Фокус) — о комплексной проверке контрагентов, выявлении конфликта интересов и примерах снижения бизнес-рисков через автоматизацию.
Никита Габдуллин и Иван Черноскутов (Контур.Фокус) — о переходе проверок контрагентов от простых агрегаторов данных к ИИ-агентам.

Отдельный блок будет посвящён роли человека в безопасности.

Юрий Драченин (Контур.Эгида) объяснит, почему безопасность начинается с сотрудника и как формируется культура доверия.
Евгений Успенский (ДРТ Консалтинг) — о том, как в эпоху ИИ аналитикам помогает критическое мышление.
Никита Лисенков (ICSA) поделится примерами применения Process Mining и Anti-Fraud систем.
Анастасия Федорова (Positive Education) расскажет о развитии киберкомпетенций и формировании устойчивых команд.
Артем Избаенков (ГК Солар) представит доклад «ИИ-боты: новая атака на доверие», где объяснит, как выстраивать цифровой иммунитет организации.

В финале состоится сессия «Безопасность в балансе: находим опорную точку» — о том, как превратить безопасность из контролирующей функции в фактор устойчивого роста бизнеса.

Среди участников — Александра Тихомирова (Абсолют Банк), Наталья Пигарева (независимый эксперт) и другие специалисты.