ИИ Facebook назвал темнокожих людей на видео приматами

ИИ Facebook назвал темнокожих людей на видео приматами

ИИ Facebook назвал темнокожих людей на видео приматами

Пользователям Facebook, просматривающим видеоролики с участием темнокожих граждан, предложили «продолжить смотреть видео с приматами». Оказалось, что конфуз произошёл по вине системы рекомендаций Facebook, основанной на искусственном интеллекте.

Само собой, представители соцсети сразу поняли, чем грозит такая ошибка (Black Lives Matter) и поспешили принести извинения. Более того, виновную систему временно отключили и инициировали внутреннее расследование.

Этот эпизод, кстати, стал очередным доказательством «расовой предвзятости ИИ». Именно так считают правозащитники, которые в прошлом уже не раз отмечали подобные ошибки систем. Например, ранее распознающий лица ИИ ошибочно называл афроамериканцев преступниками.

В 2015 году, когда проблема ещё не была настолько актуальна, приложение Google Photos отмечало темнокожих людей на фотографиях «гориллами». А в мае Twitter выявил расовую предвзятость в механизме кадрирования фото.

«Рекомендация посмотреть другие ролики с ’’приматами’’ возникла из-за ошибки алгоритма, которая не имела ничего общего с содержанием видеороликов. Мы полностью отключили эту систему, чтобы выяснить причину и в дальнейшем не допустить подобной оплошности», — заявил пресс-секретарь Facebook изданию «Би-би-си».

«Как уже отмечалось ранее, мы знаем, что искусственный интеллект несовершенен, поэтому нам предстоит ещё много работы над его развитием и улучшением».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В даркнете растет спрос на аренду аккаунтов MAX

В даркнете стремительно растёт интерес к аренде аккаунтов пользователей мессенджера MAX. По данным аналитиков, ежедневно фиксируется до тысячи подобных запросов, а стоимость аренды отдельных учётных записей достигает 250 долларов. Эксперты отмечают, что спрос на такие услуги демонстрирует устойчивый рост.

О новой тенденции сообщил «Коммерсантъ» со ссылкой на два источника: специалистов компании «Инфосистемы Джет» и Управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД России (УБК МВД).

Потенциальные арендаторы предлагают владельцам аккаунтов передать номер телефона и код для авторизации в мессенджере, а взамен оплачивают почасовой «холд» — удержание учётной записи.

Минимальный срок аренды составляет один час. Стоимость варьируется от 10 до 250 долларов в зависимости от продолжительности и условий. В УБК МВД подчеркнули, что схема во многом копирует практику аренды аккаунтов WhatsApp (принадлежит Meta, признанной экстремистской и запрещённой в РФ). Основными арендодателями выступают школьники и студенты.

По данным источников «Коммерсанта», вся информация о таких случаях оперативно передаётся администрации MAX. В августе мессенджер сообщил о блокировке 67 тыс. нарушителей, тогда как месяцем ранее число блокировок составило около 10 тыс.

С 1 сентября вступил в силу запрет на передачу учётных записей и SIM-карт посторонним лицам (за исключением близких родственников). Нарушителям грозит административная, а в ряде случаев и уголовная ответственность, если аккаунты используются для противоправной деятельности.

Директор центра противодействия мошенничеству компании «Информзащита» Павел Коваленко спрогнозировал для «Коммерсанта», что при базовом сценарии доля мошеннических звонков через MAX будет увеличиваться на 0,3–0,5% ежемесячно. Сейчас она составляет около 9%.

При агрессивном сценарии к концу 2025 года доля звонков через MAX может достичь 20–22%. В этом случае количество блокировок в системе вырастет до 250–300 тыс. ежемесячно.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru