Google Messages использует маячки из чатов для тренировки ИИ-антиспама

Google Messages использует маячки из чатов для тренировки ИИ-антиспама

Google Messages использует маячки из чатов для тренировки ИИ-антиспама

Google доработала защитную функциональность приложения Messages, «родного» мессенджера в мобильной операционной системе Android. Теперь функция обнаружения спама будет опираться в том числе на ИИ, обучающийся на маячках из незашифрованных чатов.

Задача фичи — отсеивать нежелательные или откровенно вредоносные СМС-сообщения. Опция обнаружения спама по умолчанию включена в Google Messages.

В идеале все потенциально опасные сообщения должны складываться в специальную директорию — «Спам», при этом все личные переписки пользователя, по словам разработчиков, не сканируются.

«С активированной функцией обнаружения спама ваши переписки остаются приватными», — гласит официальная документация.

Кроме того, Google добавила в спам-детектор алгоритмы машинного обучения, которые будут выискивать в сообщениях определённые паттерны, потенциально указывающие на спам.

Например, будет проверяться наличие ссылок во входящих СМС-сообщениях. Если таковые имеются, система направит их Google, чтобы убедиться в безвредности. При этом куски подозрительного текста будут расцениваться как «маячки», на которых и обучается ИИ-модель.

В Google подчёркивают, что антиспам будет анализировать текст исключительно в незашифрованных переписках, чтобы ваши личные коммуникации остались нетронутыми.

Microsoft Defender начал принимать обычные ссылки Google за угрозу

Microsoft изучает сбой в Defender for Office 365, из-за которого легитимные ссылки на результаты поиска Google внезапно превратились в угрозу. При попытке открыть их пользователи получают предупреждение: «Этот веб-сайт может быть небезопасен».

Инцидент зарегистрирован под номером MO1465962. В Microsoft выяснили, что причиной стала ошибочная классификация адресов: система Safe Links принимает нормальные URL Google за вредоносные и блокирует переход.

Скопировать ссылку и вставить в браузер проблему не решает — предупреждение появляется снова. Ложные срабатывания затронули не только пользователей.

Администраторы могут получать связанные уведомления и регистрировать инциденты в Microsoft Defender Portal и SIEM-платформе Microsoft Sentinel. В результате ИБ-командам приходится разбирать тревоги, за которыми скрывается не фишинговая кампания, а слишком бдительный фильтр.

Safe Links защищает организации от фишинга, переписывая ссылки во входящих письмах и повторно проверяя их в момент перехода. Механизм работает в электронной почте, Teams и приложениях Microsoft 365. На этот раз защита решила перестраховаться и закрыла дверь перед поисковиком целиком.

Microsoft пока не раскрыла число пострадавших клиентов и затронутые регионы. Компания классифицировала проблему как advisory, что обычно указывает на ограниченный масштаб, и работает над исправлением ошибочной классификации.

RSS: Новости на портале Anti-Malware.ru