Microsoft вводит новые инструменты против травли в интернете

Microsoft вводит новые инструменты против травли в интернете

Microsoft вводит новые инструменты против травли в интернете

Сегодня компания Microsoft объявила о выпуске двух дополнений к ее онлайн-сервисам: один из этих инструментов позволяет сообщать о разжигании ненависти, в этом случае компания может удалить соответствующий контент, а второй инструмент позволяет сделать запрос в Microsoft на восстановление удаленного контента.

Пойти на этот шаг компанию заставила недавняя вспышка интернет-травли в этом месяце, направленная на актрису Лесли Джонс (Leslie Jones). Сначала тролли развернули против нее кампанию в Twitter, а затем кто-то взломал ее личный сайт и опубликовал личную информацию.

Для Microsoft это принципиальный шаг, так как до 40% пользователей интернета в тот или иной момент испытали на себе домогательства в сети. Обычно это проблема сервисов типа Twitter, Facebook, Reddit, она пытаются найти баланс между свободой слова и тем, чтобы ограничивать ее тем людям, которые ей злоупотребляют, оскорбляя или преследуя пользователей. В последнее время количество случаев онлайн-травли увеличилось и Microsoft хочет принять меры.

«Мы никогда не разрешим материалы, пропагандирующие ненависть по признакам: возраста, инвалидности, пола, этнического происхождения, расы, религии и сексуальной ориентации» - пишет в блоге компании главный сотрудник Microsoft по Интернет-безопасности Жаклин Боуче (Jacqueline Beauchere).

Microsoft обещает сделать новые функции максимально удобными в использовании, чтобы привлечь внимание пользователей к реальной проблеме и дать им возможность влиять на ситуацию. На данный момент у Microsoft есть внутренняя команда, которая реагирует на жалобы на контент в таких продуктах как: Outlook, Skype, Xbox, OneDrive и Office 365. Компания надеется улучшить эту систему и привлечь большее количество пользователей, которые будут сообщать о неприемлемом контенте.

Подпишитесь на новости

В справке WhatsApp нашли скрытые указания для бота не упоминать GDPR

В коде справочных страниц WhatsApp (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России) обнаружились скрытые указания для ИИ-поддержки: не рекомендовать обращение к регуляторам, а при упоминании суда или адвоката — не ссылаться на законодательство о защите данных. Пользователь видел обычную справку, а бот получал дополнительную методичку о том, чего лучше не говорить.

Находку опубликовала компания Redact. Исследователи проверили 545 страниц и обнаружили 102 скрытых блока на 80 из них.

Большинство содержало обычные служебные пояснения, но некоторые явно заслуживали отдельного внимания.

Например, пользователю, потерявшему доступ к номеру и не способному удалить аккаунт, бот не должен был советовать обращаться в надзорные органы. При этом европейская политика конфиденциальности WhatsApp прямо предусматривает возможность такой жалобы.


Другая инструкция запрещала обсуждать GDPR, LGPD и CCPA после упоминания юридического разбирательства, даже если пользователь сам спрашивал об этих нормах.

WhatsApp подтвердил WIRED, что указания предназначались собственному чат-боту поддержки. Их появление в публичном коде компания объяснила ошибкой, а ограничения — стремлением не давать юридические советы. К 18 октября скрытые блоки удалили.

RSS: Новости на портале Anti-Malware.ru