Amazon предложила решение проблемы использования системы Rekognition

Amazon предложила решение проблемы использования системы Rekognition

Amazon предложила решение проблемы использования системы Rekognition

Один из ведущих специалистов Amazon Мэтт Вуд, занимающийся искусственным интеллектом, уверен, что в процессе разработки системы распознавания лиц, которую будет использовать полиция, необходимо участие правительства в качестве контролирующего органа.

Вуд считает, что правительство должно регулировать то, как полиция и службы безопасности используют систему распознавания лиц.

С подобным заявлением разработчик выступил после критики в адрес системы Rekognition, которой ее подверг Американский союз защиты гражданских свобод.

Таким образом, в настоящий момент есть один основной вопрос — насколько можно доверять системам вроде Rekognition, насколько же они точны. Особенно этим вопросом задается чернокожее население Соединенных Штатов, так как в их случае система ошибается чаще.

Естественно, это стало проблемой в США, где расовые предрассудки продолжают существовать и по сей день.

Со своей стороны, Вуд предложил использовать настройки системы по умолчанию (а не рекомендованные). Это поможет снизить риск ложного опознания.

«Существует разница между использованием машинного обучения для идентификации, например, еды, и использованием машинного обучения для сравнения лица человека с базой преступников», — объяснил Вуд.

«В последнем случае речь идет о действительно высокой степени риска, а также о последствиях, которые может повлечь за собой ошибка. Следовательно, требуется куда более серьезный уровень доверия к системе».

К слову, не только Amazon высказалась за участие правительства в создании правил использования системы распознавания лиц правоохранительными органами. Президент Microsoft Брэд Смит в начале этого месяца призывал к тому же.

Напомним, что Американский союз защиты гражданских свобод (ACLU) провел тестирование системы распознавания лиц Rekognition от Amazon. Результаты показали, что система ошибочно определила 28 членов Конгресса как уголовников.

По словам проводивших эксперимент специалистов, они загрузили 25 000 фотографий под арестом (магшот) из публичного источника, а затем сопоставили их с официальными фотографиями всех 535 членов Конгресса.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Минцифры поддержало инициативу депутатов об обучении ИБ госслужащих

Минцифры поддержало инициативу группы депутатов от фракции «Новые люди», которые предложили внедрить системное обучение государственных и муниципальных служащих основам кибербезопасности. По замыслу авторов инициативы, регулярные курсы помогут защитить государственные структуры от кибератак, включая попытки социальной инженерии, фишинга и использования вредоносных программ.

Депутаты направили министру цифрового развития, связи и массовых коммуникаций Максуту Шадаеву письмо с предложением сделать такие курсы обязательными и завершать их аттестацией.

В распоряжении РИА Новости оказался ответ на письмо, подписанный одним из заместителей министра. В документе отмечается, что ведомство разделяет позицию о необходимости системного обучения госслужащих. Подчёркивается, что такие меры особенно важны для защиты информационных ресурсов органов власти и критической инфраструктуры от атак социальной инженерии.

Представитель Минцифры добавил, что вопросы повышения киберграмотности уже отражены в национальной программе «Цифровая экономика РФ». Кроме того, был создан экспертный совет «Цифровая грамотность и кибергигиена», который объединяет усилия специалистов для системного повышения уровня цифровых компетенций.

Сейчас Минцифры готовит новый проект «Цифровая грамотность для госслужащих». В разработке участвуют представители компаний Ростелеком, «Лаборатория Касперского», Яндекс, Авито и Сбер. Их эксперты готовят методические материалы по темам социальной инженерии, фишинга, вредоносных программ, защиты персональных данных и угроз на основе искусственного интеллекта.

Параллельно разрабатывается итоговое тестирование. «Дополнительно сообщаем, что Экспертным советом реализуется проект "ЦифрАтест", направленный на определение уровня цифровой грамотности госслужащих. Платформа будет включать тестирование по темам телефонного мошенничества, защиты от спама, безопасного использования мессенджеров и соцсетей, фишинга и доступа к госуслугам. По итогам прохождения теста участники получат сертификат, отражающий их уровень цифровых компетенций», — говорится в ответе ведомства.

Даже зрелые организации регулярно сталкиваются с инцидентами, вызванными атаками на персонал. Поэтому необходим постоянно действующий процесс обучения и повышения осведомлённости сотрудников. Тем более, что корпоративная среда и госучреждения часто становятся благоприятной почвой для распространения фишинга.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru