ИИ Facebook назвал темнокожих людей на видео приматами

ИИ Facebook назвал темнокожих людей на видео приматами

ИИ Facebook назвал темнокожих людей на видео приматами

Пользователям Facebook, просматривающим видеоролики с участием темнокожих граждан, предложили «продолжить смотреть видео с приматами». Оказалось, что конфуз произошёл по вине системы рекомендаций Facebook, основанной на искусственном интеллекте.

Само собой, представители соцсети сразу поняли, чем грозит такая ошибка (Black Lives Matter) и поспешили принести извинения. Более того, виновную систему временно отключили и инициировали внутреннее расследование.

Этот эпизод, кстати, стал очередным доказательством «расовой предвзятости ИИ». Именно так считают правозащитники, которые в прошлом уже не раз отмечали подобные ошибки систем. Например, ранее распознающий лица ИИ ошибочно называл афроамериканцев преступниками.

В 2015 году, когда проблема ещё не была настолько актуальна, приложение Google Photos отмечало темнокожих людей на фотографиях «гориллами». А в мае Twitter выявил расовую предвзятость в механизме кадрирования фото.

«Рекомендация посмотреть другие ролики с ’’приматами’’ возникла из-за ошибки алгоритма, которая не имела ничего общего с содержанием видеороликов. Мы полностью отключили эту систему, чтобы выяснить причину и в дальнейшем не допустить подобной оплошности», — заявил пресс-секретарь Facebook изданию «Би-би-си».

«Как уже отмечалось ранее, мы знаем, что искусственный интеллект несовершенен, поэтому нам предстоит ещё много работы над его развитием и улучшением».

В рунете могут ввести универсальный ID пользователя для нужд аналитики

Минцифры РФ собирается ввести в оборот единый идентификатор пользователя, действующий на всех платформах национального сегмента интернета. Подобная унификация должна облегчить оценку аудитории и популярности контента.

О планах по повышению точности такой аналитики стало известно из выступления замглавы Минцифры Бэллы Черкесовой на заседании Общественного совета при министерстве.

Способы совершенствования методов сбора статистики по использованию онлайн-сервисов, по словам спикера, уже обсуждаются с отраслью. Большой интерес проявляют онлайн-кинотеатры.

В настоящее время данные о посещениях и просмотре сайтов, внесенных в реестр Роскомнадзора, передаются в Mediascope — в обезличенном и зашифрованном виде. Однако, когда пользователь заходит на страницу с разных устройств и разных площадок, его визиты воспринимаются как действия других юзеров, что искажает статистику.

Во избежание таких накладок Минцифры предлагает обновить состав передаваемых на анализ данных и изменить подход к формированию ID пользователя — привязать его к номеру телефона и сделать неизменным, с сохранением требований по обезличиванию и шифрованию данных.

Комментируя инициативу регулятора, вице-президент российской Ассоциации развития интерактивной рекламы (АРИР) Александр Папков отметил, что унификация позволит лишь частично решить задачу. Гораздо важнее, по его мнению, модернизировать процесс защищенного обмена данными.

«В любом случае даже при введении единого идентификатора критически важно обеспечить полный и равный доступ к возможностям его использования всеми участниками рынка, так как исключительно в здравой конкурентной борьбе могут появиться передовые решения», — заявил представитель АРИР корреспонденту «Российской газеты».

RSS: Новости на портале Anti-Malware.ru