ИИ Facebook назвал темнокожих людей на видео приматами

ИИ Facebook назвал темнокожих людей на видео приматами

ИИ Facebook назвал темнокожих людей на видео приматами

Пользователям Facebook, просматривающим видеоролики с участием темнокожих граждан, предложили «продолжить смотреть видео с приматами». Оказалось, что конфуз произошёл по вине системы рекомендаций Facebook, основанной на искусственном интеллекте.

Само собой, представители соцсети сразу поняли, чем грозит такая ошибка (Black Lives Matter) и поспешили принести извинения. Более того, виновную систему временно отключили и инициировали внутреннее расследование.

Этот эпизод, кстати, стал очередным доказательством «расовой предвзятости ИИ». Именно так считают правозащитники, которые в прошлом уже не раз отмечали подобные ошибки систем. Например, ранее распознающий лица ИИ ошибочно называл афроамериканцев преступниками.

В 2015 году, когда проблема ещё не была настолько актуальна, приложение Google Photos отмечало темнокожих людей на фотографиях «гориллами». А в мае Twitter выявил расовую предвзятость в механизме кадрирования фото.

«Рекомендация посмотреть другие ролики с ’’приматами’’ возникла из-за ошибки алгоритма, которая не имела ничего общего с содержанием видеороликов. Мы полностью отключили эту систему, чтобы выяснить причину и в дальнейшем не допустить подобной оплошности», — заявил пресс-секретарь Facebook изданию «Би-би-си».

«Как уже отмечалось ранее, мы знаем, что искусственный интеллект несовершенен, поэтому нам предстоит ещё много работы над его развитием и улучшением».

WhatsApp обвинил власти России в попытке лишить пользователей приватности

WhatsApp (принадлежит Meta, признанной экстремистской и запрещенной в России) публично раскритиковал действия российских властей, заявив, что ограничения работы мессенджера фактически лишают более 100 млн россиян права на приватное общение — причём накануне праздничного сезона.

Заявление компании передаёт Reuters. Оно прозвучало после очередного предупреждения Роскомнадзора: регулятор вновь дал понять, что WhatsApp может быть полностью заблокирован, если сервис не приведёт свою работу в соответствие с российским законодательством.

В Роскомнадзоре утверждают, что мессенджер систематически нарушает закон:

«WhatsApp используется для организации террористических актов, вербовки их исполнителей, мошенничества и других преступлений», — сообщили в ведомстве.

Регулятор подтвердил, что уже принимает меры по поэтапному ограничению сервиса. Во вторник пользователи по всей стране начали массово жаловаться на перебои в работе WhatsApp — замедление и недоступность функций зафиксировали и сервисы мониторинга.

В компании с такой позицией категорически не согласны. Представитель WhatsApp заявил, что речь идёт не просто о технических ограничениях, а о фундаментальном праве на конфиденциальную связь:

«Ограничивая доступ к WhatsApp, российское правительство пытается лишить более 100 миллионов человек возможности использовать конфиденциальное сквозное шифрование», — отметили в компании.

В WhatsApp подчеркнули, что мессенджер давно стал частью повседневной жизни россиян — от родительских чатов и рабочих групп до общения с родственниками и соседями в разных регионах страны. По мнению компании, вытеснение пользователей в менее защищённые и «государственные» приложения может привести лишь к снижению уровня безопасности.

Ограничения против WhatsApp — часть более широкой политики. Ещё в августе Россия начала ограничивать отдельные звонки в WhatsApp и Telegram, обвиняя иностранные платформы в отказе сотрудничать с правоохранительными органами по делам о мошенничестве и терроризме.

Параллельно власти активно продвигают государственный мессенджер MAX, который объединяет коммуникации с доступом к различным госуслугам. Критики считают, что приложение может использоваться для слежки за пользователями, однако власти эти обвинения отвергают и заявляют, что MAX создаётся «для упрощения и улучшения повседневной жизни граждан».

RSS: Новости на портале Anti-Malware.ru