Microsoft вводит новые инструменты против травли в интернете

Microsoft вводит новые инструменты против травли в интернете

Microsoft вводит новые инструменты против травли в интернете

Сегодня компания Microsoft объявила о выпуске двух дополнений к ее онлайн-сервисам: один из этих инструментов позволяет сообщать о разжигании ненависти, в этом случае компания может удалить соответствующий контент, а второй инструмент позволяет сделать запрос в Microsoft на восстановление удаленного контента.

Пойти на этот шаг компанию заставила недавняя вспышка интернет-травли в этом месяце, направленная на актрису Лесли Джонс (Leslie Jones). Сначала тролли развернули против нее кампанию в Twitter, а затем кто-то взломал ее личный сайт и опубликовал личную информацию.

Для Microsoft это принципиальный шаг, так как до 40% пользователей интернета в тот или иной момент испытали на себе домогательства в сети. Обычно это проблема сервисов типа Twitter, Facebook, Reddit, она пытаются найти баланс между свободой слова и тем, чтобы ограничивать ее тем людям, которые ей злоупотребляют, оскорбляя или преследуя пользователей. В последнее время количество случаев онлайн-травли увеличилось и Microsoft хочет принять меры.

«Мы никогда не разрешим материалы, пропагандирующие ненависть по признакам: возраста, инвалидности, пола, этнического происхождения, расы, религии и сексуальной ориентации» - пишет в блоге компании главный сотрудник Microsoft по Интернет-безопасности Жаклин Боуче (Jacqueline Beauchere).

Microsoft обещает сделать новые функции максимально удобными в использовании, чтобы привлечь внимание пользователей к реальной проблеме и дать им возможность влиять на ситуацию. На данный момент у Microsoft есть внутренняя команда, которая реагирует на жалобы на контент в таких продуктах как: Outlook, Skype, Xbox, OneDrive и Office 365. Компания надеется улучшить эту систему и привлечь большее количество пользователей, которые будут сообщать о неприемлемом контенте.

Google научила смартфоны измерять пульс без часов и фитнес-браслетов

Google, видимо, решила, что фитнес-браслетам и умные часам пора на пенсию. Компания представила технологию, которая позволяет измерять пульс и частоту сердечных сокращений в состоянии покоя с помощью обычной фронтальной камеры смартфона.

Никаких датчиков на запястье, никаких ремешков и дополнительных устройств. Всё, что нужно, — собственное лицо.

Система получила название Passive Heart Rate Monitoring (PHRM). Работает она  любопытно: после разблокировки смартфона по лицу фронтальная камера записывает короткое восьмисекундное видео, а встроенная ИИ-модель анализирует едва заметные изменения цвета кожи, возникающие из-за кровотока.

Человеческий глаз таких изменений не видит, а вот алгоритмы машинного обучения — вполне.

 

По данным Google, точность системы оказалась неожиданно высокой. При оценке пульса в состоянии покоя результаты отличались от показателей фитнес-браслета Fitbit Charge 6 менее чем на пять ударов в минуту.

Для обучения и тестирования модели компания использовала более 350 тысяч видеозаписей почти 700 участников с разными оттенками кожи. Более того, исследователи проверяли технологию не только в лаборатории, но и в реальной жизни. Добровольцы больше недели ходили со своими смартфонами, одновременно используя Fitbit и медицинское оборудование для контроля сердечного ритма.

Результаты оказались убедительными, чтобы Google всерьёз заговорила о будущем такого подхода. Впрочем, до идеала ещё далеко. Исследователи признают, что системе пока сложнее стабильно получать данные у людей с тёмными оттенками кожи. Также на точность могут влиять разговоры, движения головы и другие обычные действия.

Есть и вопрос приватности. Всё-таки технология предполагает регулярный анализ изображения лица пользователя. В Google уверяют, что обработка может выполняться непосредственно на устройстве без передачи данных в облако.

RSS: Новости на портале Anti-Malware.ru