Microsoft вводит новые инструменты против травли в интернете

Microsoft вводит новые инструменты против травли в интернете

Microsoft вводит новые инструменты против травли в интернете

Сегодня компания Microsoft объявила о выпуске двух дополнений к ее онлайн-сервисам: один из этих инструментов позволяет сообщать о разжигании ненависти, в этом случае компания может удалить соответствующий контент, а второй инструмент позволяет сделать запрос в Microsoft на восстановление удаленного контента.

Пойти на этот шаг компанию заставила недавняя вспышка интернет-травли в этом месяце, направленная на актрису Лесли Джонс (Leslie Jones). Сначала тролли развернули против нее кампанию в Twitter, а затем кто-то взломал ее личный сайт и опубликовал личную информацию.

Для Microsoft это принципиальный шаг, так как до 40% пользователей интернета в тот или иной момент испытали на себе домогательства в сети. Обычно это проблема сервисов типа Twitter, Facebook, Reddit, она пытаются найти баланс между свободой слова и тем, чтобы ограничивать ее тем людям, которые ей злоупотребляют, оскорбляя или преследуя пользователей. В последнее время количество случаев онлайн-травли увеличилось и Microsoft хочет принять меры.

«Мы никогда не разрешим материалы, пропагандирующие ненависть по признакам: возраста, инвалидности, пола, этнического происхождения, расы, религии и сексуальной ориентации» - пишет в блоге компании главный сотрудник Microsoft по Интернет-безопасности Жаклин Боуче (Jacqueline Beauchere).

Microsoft обещает сделать новые функции максимально удобными в использовании, чтобы привлечь внимание пользователей к реальной проблеме и дать им возможность влиять на ситуацию. На данный момент у Microsoft есть внутренняя команда, которая реагирует на жалобы на контент в таких продуктах как: Outlook, Skype, Xbox, OneDrive и Office 365. Компания надеется улучшить эту систему и привлечь большее количество пользователей, которые будут сообщать о неприемлемом контенте.

Mozilla закрыла 423 уязвимости в Firefox, найденные с помощью ИИ

Mozilla рассказала о результатах нового ИИ-подхода к поиску уязвимостей в Firefox. С помощью продвинутых моделей, включая Claude Mythos Preview и Claude Opus, разработчики нашли и уже исправили 423 скрытые проблемы в безопасности.

Главное отличие от ранних ИИ-аудитов в том, что система не просто генерировала подозрительные отчёты, а встраивалась в существующую фаззинг-инфраструктуру Firefox.

ИИ запускался в нескольких виртуальных машинах, проверял гипотезы, отсекал невоспроизводимые находки и создавал демонстрационный эксплойт (proof-of-concept) для реальных багов.

В итоге модели смогли найти ошибки, которые годами проходили мимо традиционных инструментов. Среди примеров есть 15-летняя проблема в HTML-элементе legend, 20-летняя уязвимость в XSLT, а также баги в обработке HTML-таблиц, WebAssembly, IndexedDB, WebTransport и HTTPS.

 

Часть находок была серьёзной: Use-After-Free, повреждение памяти, состояние гонки (race condition) через IPC и обходы песочницы для сторонних библиотек. То есть ИИ искал не только простые сбои, а довольно сложные цепочки, где нужно понимать устройство браузерного движка.

При этом Mozilla отмечает и обратную сторону: модели не смогли обойти некоторые уже внедрённые защитные механизмы Firefox. Например, архитектурные изменения с заморозкой прототипов по умолчанию помогли отбить попытки атак.

Закрытие такого объёма багов потребовало участия более 100 разработчиков и ревьюеров. Патчи вошли в недавние обновления Firefox, включая версии 149.0.2, 150.0.1 и 150.0.2.

Теперь Mozilla планирует встроить ИИ-анализ прямо в систему непрерывной интеграции. Идея в том, чтобы проверять не только существующий код, но и новые патчи ещё до их попадания в релиз.

RSS: Новости на портале Anti-Malware.ru