ИИ Facebook назвал темнокожих людей на видео приматами

Екатерина Быстрова 07 Сентября 2021 - 08:43

...

ИИ Facebook назвал темнокожих людей на видео приматами

Пользователям Facebook, просматривающим видеоролики с участием темнокожих граждан, предложили «продолжить смотреть видео с приматами». Оказалось, что конфуз произошёл по вине системы рекомендаций Facebook, основанной на искусственном интеллекте.

Само собой, представители соцсети сразу поняли, чем грозит такая ошибка (Black Lives Matter) и поспешили принести извинения. Более того, виновную систему временно отключили и инициировали внутреннее расследование.

Этот эпизод, кстати, стал очередным доказательством «расовой предвзятости ИИ». Именно так считают правозащитники, которые в прошлом уже не раз отмечали подобные ошибки систем. Например, ранее распознающий лица ИИ ошибочно называл афроамериканцев преступниками.

В 2015 году, когда проблема ещё не была настолько актуальна, приложение Google Photos отмечало темнокожих людей на фотографиях «гориллами». А в мае Twitter выявил расовую предвзятость в механизме кадрирования фото.

«Рекомендация посмотреть другие ролики с ’’приматами’’ возникла из-за ошибки алгоритма, которая не имела ничего общего с содержанием видеороликов. Мы полностью отключили эту систему, чтобы выяснить причину и в дальнейшем не допустить подобной оплошности», — заявил пресс-секретарь Facebook изданию «Би-би-си».

«Как уже отмечалось ранее, мы знаем, что искусственный интеллект несовершенен, поэтому нам предстоит ещё много работы над его развитием и улучшением».

Следующая главная новость »

Identity Security 2026: как защитить доступ до компрометации?
Регистрируйтесь на эфир!

Екатерина Быстрова 17 Марта 2026 - 08:58

Домашние пользователи

WhatsApp начал тестировать гостевые чаты для людей без аккаунта

WhatsApp (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России) начал расширять тестирование гостевых чатов, которые позволяют переписываться с человеком, даже если у него нет аккаунта в мессенджере. Раньше эту функцию внедряли только в бете для Android, а теперь она стала появляться и у части тестировщиков на iOS, а также в веб-версии.

Механика довольно простая: пользователь WhatsApp может создать специальную ссылку через раздел «Пригласить друга» и отправить её любым удобным способом — например, по СМС или через другое приложение.

Если получатель откроет ссылку, у него запустится защищённая сессия чата через WhatsApp Web, то есть заводить полноценный аккаунт для этого не потребуется.

При этом в WhatsApp подчёркивают, что такие переписки всё равно защищены сквозным шифрованием. После перехода по ссылке система создаёт уникальный идентификатор, на основе которого формируется ключ шифрования. Иными словами, сам сервис не должен видеть содержимое таких сообщений, читать их могут только участники разговора.

Есть, впрочем, и важные ограничения. Начать такой диалог может только сам гость: ему нужно открыть ссылку, принять условия WhatsApp, ввести имя и уже после этого запустить переписку. В чате такой пользователь будет помечен как «Гость», а рядом появится предупреждение, что он не зарегистрирован в WhatsApp. При этом любой, у кого окажется ссылка-приглашение, теоретически сможет присоединиться к разговору.

Пока функция явно выглядит скорее как пробный формат, чем как полноценная замена обычным чатам. Сейчас гостевые чаты не поддерживают групповые беседы, голосовые сообщения, вложения, стикеры, GIF, а также голосовые и видеозвонки. Кроме того, такие переписки настроены на автоматическое завершение после 10 дней неактивности.

Функция может стать удобным способом втянуть в экосистему тех, кто мессенджером пока не пользуется, особенно на рынках, где WhatsApp до сих пор не так силён.

На данный момент гостевые чаты доступны лишь ограниченному числу бета-тестеров на Android, iOS и в вебе. Когда функция доберётся до широкого релиза, пока не сообщается.

Identity Security 2026: как защитить доступ до компрометации?
Регистрируйтесь на эфир!