Microsoft вводит новые инструменты против травли в интернете

Microsoft вводит новые инструменты против травли в интернете

Microsoft вводит новые инструменты против травли в интернете

Сегодня компания Microsoft объявила о выпуске двух дополнений к ее онлайн-сервисам: один из этих инструментов позволяет сообщать о разжигании ненависти, в этом случае компания может удалить соответствующий контент, а второй инструмент позволяет сделать запрос в Microsoft на восстановление удаленного контента.

Пойти на этот шаг компанию заставила недавняя вспышка интернет-травли в этом месяце, направленная на актрису Лесли Джонс (Leslie Jones). Сначала тролли развернули против нее кампанию в Twitter, а затем кто-то взломал ее личный сайт и опубликовал личную информацию.

Для Microsoft это принципиальный шаг, так как до 40% пользователей интернета в тот или иной момент испытали на себе домогательства в сети. Обычно это проблема сервисов типа Twitter, Facebook, Reddit, она пытаются найти баланс между свободой слова и тем, чтобы ограничивать ее тем людям, которые ей злоупотребляют, оскорбляя или преследуя пользователей. В последнее время количество случаев онлайн-травли увеличилось и Microsoft хочет принять меры.

«Мы никогда не разрешим материалы, пропагандирующие ненависть по признакам: возраста, инвалидности, пола, этнического происхождения, расы, религии и сексуальной ориентации» - пишет в блоге компании главный сотрудник Microsoft по Интернет-безопасности Жаклин Боуче (Jacqueline Beauchere).

Microsoft обещает сделать новые функции максимально удобными в использовании, чтобы привлечь внимание пользователей к реальной проблеме и дать им возможность влиять на ситуацию. На данный момент у Microsoft есть внутренняя команда, которая реагирует на жалобы на контент в таких продуктах как: Outlook, Skype, Xbox, OneDrive и Office 365. Компания надеется улучшить эту систему и привлечь большее количество пользователей, которые будут сообщать о неприемлемом контенте.

Супер-ИИ для взлома пока не появился, но атаки уже поставили на конвейер

Искусственный интеллект пока не научился самостоятельно изобретать волшебные способы взлома любой системы. Зато он уже помогает злоумышленникам автоматизировать известные атаки и запускать их сразу против множества организаций, заявил руководитель BI.ZONE Threat Intelligence Олег Скулкин на конференции OFFZONE 2026.

По словам эксперта, зафиксированы атаки, которые ИИ-агенты проводят почти без присмотра оператора.

Человек задаёт цель, а система самостоятельно ищет слабые места и пытается развить проникновение. Успех при этом зависит не от внезапного цифрового гения, а от качества защиты жертвы.

ИИ пока не создаёт принципиально новых техник, но резко повышает скорость и масштаб. Если раньше атакующий физически не успевал проверить тысячи компаний, агентская система может делать это круглосуточно. В результате привычная стратегия «мы никому не интересны» окончательно отправляется на свалку.

«Если сто злоумышленников автоматизируют с помощью ИИ жизненный цикл атаки и будут бесконечно пытаться взломать разные организации, уже не получится избежать атаки просто потому, что о тебе не знают», — предупредил Скулкин.

Отдельная угроза растёт внутри самих компаний. По данным BI.ZONE SOC, ИИ-агентов используют до 72% организаций. Такие системы подключают к репозиториям кода, облачной инфраструктуре, внутренним API и конфиденциальным документам.

Если агент с широкими полномочиями будет скомпрометирован, злоумышленник получит не просто точку входа, а пропуск сразу в несколько корпоративных систем.

Об этом же риске предупреждали эксперты на прошедшем на этой неделе AM Live, прогнозирую рост атак через скомпрометированные «нечеловеческие» привилегированные учетные записи (Non-Human Identities).

RSS: Новости на портале Anti-Malware.ru