ИИ Facebook назвал темнокожих людей на видео приматами

ИИ Facebook назвал темнокожих людей на видео приматами

ИИ Facebook назвал темнокожих людей на видео приматами

Пользователям Facebook, просматривающим видеоролики с участием темнокожих граждан, предложили «продолжить смотреть видео с приматами». Оказалось, что конфуз произошёл по вине системы рекомендаций Facebook, основанной на искусственном интеллекте.

Само собой, представители соцсети сразу поняли, чем грозит такая ошибка (Black Lives Matter) и поспешили принести извинения. Более того, виновную систему временно отключили и инициировали внутреннее расследование.

Этот эпизод, кстати, стал очередным доказательством «расовой предвзятости ИИ». Именно так считают правозащитники, которые в прошлом уже не раз отмечали подобные ошибки систем. Например, ранее распознающий лица ИИ ошибочно называл афроамериканцев преступниками.

В 2015 году, когда проблема ещё не была настолько актуальна, приложение Google Photos отмечало темнокожих людей на фотографиях «гориллами». А в мае Twitter выявил расовую предвзятость в механизме кадрирования фото.

«Рекомендация посмотреть другие ролики с ’’приматами’’ возникла из-за ошибки алгоритма, которая не имела ничего общего с содержанием видеороликов. Мы полностью отключили эту систему, чтобы выяснить причину и в дальнейшем не допустить подобной оплошности», — заявил пресс-секретарь Facebook изданию «Би-би-си».

«Как уже отмечалось ранее, мы знаем, что искусственный интеллект несовершенен, поэтому нам предстоит ещё много работы над его развитием и улучшением».

В России впервые оштрафовали за оскорбление в личном голосовом сообщении

Один из районных судов Москвы оштрафовал жительницу столицы за оскорбление, высказанное в голосовом сообщении. Это стало первым зафиксированным случаем, когда наказание было вынесено за распространение оскорблений в личной переписке, а не в публичном чате. Суд квалифицировал действия ответчицы по статье 5.61 КоАП РФ «Оскорбление» и назначил штраф в размере 3 тыс. рублей.

О решении суда по делу об оскорблении в голосовом сообщении, отправленном через мессенджер, 12 января сообщило РИА Новости. Поводом для разбирательства стало обращение потерпевшей в прокуратуру. В числе доказательств к жалобе был приложен, в частности, «акт прослушивания аудиозаписи».

Ранее аналогичные решения уже выносились, однако они касались голосовых сообщений с оскорблениями, размещённых в публичных чатах. Так, житель Марий Эл был оштрафован на 5 тыс. рублей за оскорбление матери одноклассника своего сына в классном чате. При этом, как обратили внимание «Известия», суд квалифицировал высказывание как публичное оскорбление и назначил более строгое наказание.

В то же время в судебной практике встречались и случаи успешного обжалования подобных решений. Так, Советский районный суд Красноярска отменил постановление мирового судьи по делу об оскорблении в дачном чате. Основанием стало отсутствие лингвистической экспертизы: мировой судья исходил исключительно из «восприятия потерпевшего».

«При проведении экспертизы для лингвиста нет разницы между устной и письменной речью в рамках таких дел. Фразы и смайлы всегда анализируются в контексте: учитывается ситуация общения, участники, их социальный статус и роли. Например, при оскорблении представителя власти, полицейского или судьи может сразу наступать уголовная ответственность», — отметила старший эксперт-психолог и лингвист Центра специальных исследований и экспертиз Полина Курданова. По её словам, экспертизы назначаются судом практически всегда, если возникают сомнения в квалификации высказываний.

Управляющий партнёр AVG Legal Алексей Гавришев в комментарии для «Известий» отметил, что в самом решении суда нет принципиальной новизны. «Новизна здесь скорее в общественном восприятии, чем в праве. Оскорбление в мессенджере давно квалифицируется так же, как и в офлайне: это всё то же унижение чести и достоинства, выраженное в неприличной форме. Просто канал коммуникации стал цифровым, а судебная практика по таким делам существует уже не первый год», — подчеркнул он.

По мнению Гавришева, подобная практика будет только расширяться, поскольку люди всё чаще «переносят конфликты в цифровую среду, а суды вынуждены идти за ними». В целом, как отмечают опрошенные «Известиями» эксперты, оскорбления в онлайне встречаются даже чаще, чем в офлайне. Это подтверждают и данные исследования Института статистических исследований и экономики знаний НИУ ВШЭ за 2023 год: с различными формами онлайн-агрессии сталкивались 29% пользователей социальных сетей.

Основатель юридического бутика ContractCreation by Kostromin Евгений Костромин назвал это дело показательным прежде всего из-за используемого доказательства — акта прослушивания голосового сообщения. При этом он напомнил, что на специфику рассмотрения дел об оскорблениях в онлайн-пространстве Президиум Верховного суда обращал внимание ещё в 2021 году.

RSS: Новости на портале Anti-Malware.ru