ИИ Facebook назвал темнокожих людей на видео приматами

ИИ Facebook назвал темнокожих людей на видео приматами

ИИ Facebook назвал темнокожих людей на видео приматами

Пользователям Facebook, просматривающим видеоролики с участием темнокожих граждан, предложили «продолжить смотреть видео с приматами». Оказалось, что конфуз произошёл по вине системы рекомендаций Facebook, основанной на искусственном интеллекте.

Само собой, представители соцсети сразу поняли, чем грозит такая ошибка (Black Lives Matter) и поспешили принести извинения. Более того, виновную систему временно отключили и инициировали внутреннее расследование.

Этот эпизод, кстати, стал очередным доказательством «расовой предвзятости ИИ». Именно так считают правозащитники, которые в прошлом уже не раз отмечали подобные ошибки систем. Например, ранее распознающий лица ИИ ошибочно называл афроамериканцев преступниками.

В 2015 году, когда проблема ещё не была настолько актуальна, приложение Google Photos отмечало темнокожих людей на фотографиях «гориллами». А в мае Twitter выявил расовую предвзятость в механизме кадрирования фото.

«Рекомендация посмотреть другие ролики с ’’приматами’’ возникла из-за ошибки алгоритма, которая не имела ничего общего с содержанием видеороликов. Мы полностью отключили эту систему, чтобы выяснить причину и в дальнейшем не допустить подобной оплошности», — заявил пресс-секретарь Facebook изданию «Би-би-си».

«Как уже отмечалось ранее, мы знаем, что искусственный интеллект несовершенен, поэтому нам предстоит ещё много работы над его развитием и улучшением».

Большая четверка предложила API для маркировки звонков

Билайн, МегаФон, МТС и Т2 разработали единый набор API для межоператорского взаимодействия при маркировке звонков от организаций. Ранее унифицированных правил такой маркировки не существовало. Принципиально важно, что новые API будут предоставляться бесплатно — тогда как раньше маркировка одного звонка, по оценкам издания, обходилась в среднем в 30 копеек.

О разработке единого API сообщили «Ведомости» со ссылкой на представителей операторов связи.

«Разработка открытого API ведётся для автоматизации обмена данными как между операторами „большой четвёрки“, так и с операторами фиксированной связи. Это позволит повысить скорость и точность взаимодействия, а также снизить издержки для всех участников рынка», — прокомментировал представитель МегаФона.

В Т2 отметили, что внедрение API ускорит обмен информацией между операторами и клиентами, а также позволит сократить количество ошибок, связанных с человеческим фактором. В МТС, в свою очередь, подчеркнули, что техническая часть API уже доступна всем операторам, чтобы они могли заранее оценить условия и сложность внедрения на своей стороне.

По мнению экспертов телеком-рынка, появление открытых API позволит небольшим операторам и корпоративным клиентам подключаться к системам маркировки напрямую, без посредничества «большой четвёрки».

Ранее крупных игроков критиковали за навязывание платных услуг — в том числе за соединение, а не только за фактически состоявшийся дозвон. Также высказывались претензии к снижению процента дозвона при использовании маркировки.

Норма о маркировке телефонных вызовов была окончательно принята 1 апреля в составе первого пакета мер по противодействию телефонному мошенничеству и вступила в силу с 1 сентября.

Как пояснили изданию в Минцифры, нововведение направлено на защиту граждан от телефонного мошенничества и спама, а также на повышение прозрачности коммуникаций между бизнесом и клиентами.

RSS: Новости на портале Anti-Malware.ru