ИИ Facebook назвал темнокожих людей на видео приматами

ИИ Facebook назвал темнокожих людей на видео приматами

ИИ Facebook назвал темнокожих людей на видео приматами

Пользователям Facebook, просматривающим видеоролики с участием темнокожих граждан, предложили «продолжить смотреть видео с приматами». Оказалось, что конфуз произошёл по вине системы рекомендаций Facebook, основанной на искусственном интеллекте.

Само собой, представители соцсети сразу поняли, чем грозит такая ошибка (Black Lives Matter) и поспешили принести извинения. Более того, виновную систему временно отключили и инициировали внутреннее расследование.

Этот эпизод, кстати, стал очередным доказательством «расовой предвзятости ИИ». Именно так считают правозащитники, которые в прошлом уже не раз отмечали подобные ошибки систем. Например, ранее распознающий лица ИИ ошибочно называл афроамериканцев преступниками.

В 2015 году, когда проблема ещё не была настолько актуальна, приложение Google Photos отмечало темнокожих людей на фотографиях «гориллами». А в мае Twitter выявил расовую предвзятость в механизме кадрирования фото.

«Рекомендация посмотреть другие ролики с ’’приматами’’ возникла из-за ошибки алгоритма, которая не имела ничего общего с содержанием видеороликов. Мы полностью отключили эту систему, чтобы выяснить причину и в дальнейшем не допустить подобной оплошности», — заявил пресс-секретарь Facebook изданию «Би-би-си».

«Как уже отмечалось ранее, мы знаем, что искусственный интеллект несовершенен, поэтому нам предстоит ещё много работы над его развитием и улучшением».

Павла Дурова внесли в российский перечень террористов и экстремистов

Росфинмониторинг внёс основателя Telegram Павла Дурова* в перечень террористов и экстремистов. Ранее российские силовики предъявили предпринимателю обвинение в содействии террористической деятельности и объявили его в международный розыск.

По версии ФСБ, администрация Telegram не удалила каналы, чаты и боты, которые украинские спецслужбы якобы использовали для вербовки россиян, подготовки диверсий, терактов и массовых убийств, а также для кибермошенничества.

Ответственность за это ведомство решило искать не только внутри мессенджера, но и на самом его верху.

Дурову предъявили обвинение по части 1.1 статьи 205.1 УК РФ. Речь идёт о содействии террористической деятельности. Виновным основателя Telegram пока никто не признал, это может сделать только суд.

 

Если дело до него дойдёт и обвинение устоит, наказание может оказаться максимально суровым. По словам адвоката Владимира Жеребенкова, статья предусматривает от восьми до 15 лет колонии либо пожизненное лишение свободы. В ходе расследования список обвинений также может пополниться другими статьями.

Включение в перечень Росфинмониторинга обычно означает жёсткие ограничения на финансовые операции в России. Так что претензии к Telegram быстро вышли за пределы требований удалить несколько каналов: теперь его основатель оказался в одном из самых серьёзных российских списков, получил уголовное обвинение и перспективу пожизненного срока.

* Внесён Росфинмониторингом в перечень террористов и экстремистов.

RSS: Новости на портале Anti-Malware.ru