Google Messages использует маячки из чатов для тренировки ИИ-антиспама

Google Messages использует маячки из чатов для тренировки ИИ-антиспама

Google Messages использует маячки из чатов для тренировки ИИ-антиспама

Google доработала защитную функциональность приложения Messages, «родного» мессенджера в мобильной операционной системе Android. Теперь функция обнаружения спама будет опираться в том числе на ИИ, обучающийся на маячках из незашифрованных чатов.

Задача фичи — отсеивать нежелательные или откровенно вредоносные СМС-сообщения. Опция обнаружения спама по умолчанию включена в Google Messages.

В идеале все потенциально опасные сообщения должны складываться в специальную директорию — «Спам», при этом все личные переписки пользователя, по словам разработчиков, не сканируются.

«С активированной функцией обнаружения спама ваши переписки остаются приватными», — гласит официальная документация.

Кроме того, Google добавила в спам-детектор алгоритмы машинного обучения, которые будут выискивать в сообщениях определённые паттерны, потенциально указывающие на спам.

Например, будет проверяться наличие ссылок во входящих СМС-сообщениях. Если таковые имеются, система направит их Google, чтобы убедиться в безвредности. При этом куски подозрительного текста будут расцениваться как «маячки», на которых и обучается ИИ-модель.

В Google подчёркивают, что антиспам будет анализировать текст исключительно в незашифрованных переписках, чтобы ваши личные коммуникации остались нетронутыми.

Преступники превратили голосовой ИИ в конвейер по разблокировке iPhone

Исследователи из SOCRadar раскрыли работу AnonyMousKIT — фишинговой платформы с ИИ-операторами, которые звонят владельцам украденных iPhone от имени поддержки Apple. Их задача — выманить пароль и код двухфакторной аутентификации, чтобы снять Activation Lock и вернуть похищенный смартфон на рынок.

Оператор вводит серийный номер или IMEI устройства, после чего сервис определяет модель и статус «Локатора».

Затем система атакует владельца сразу по пяти каналам: электронной почте, СМС, WhatsApp (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России), записанными сообщениями и голосовыми звонками с ИИ.

В телефонных разговорах бот представлялся сотрудницей Apple Support по имени Элис Диас и говорил на английском, испанском или португальском. Сначала он подтверждал владение устройством, затем просил четырёх- или шестизначный пароль и подсовывал фишинговую ссылку под предлогом восстановления iPhone в магазине.


SOCRadar изучила 200 журналов звонков и 55 расшифровок. Около 90% вызовов были направлены на пользователей из Бразилии. Все 200 попыток обошлись преступникам всего в $19,24 — примерно по десять центов за потенциально разблокированный смартфон.

Масштаб платформы заметно шире одной банды. Единая кодовая база связана с 506 доменами и 168 брендами фишинговых витрин. В 30 серверных панелях исследователи обнаружили 6092 письма, нацеленные более чем на 6000 устройств. Почти 97,7% доставленных сообщений отправлялись через один бесплатный аккаунт Gmail, замаскированный под адрес Apple.

Ошибки в коде самой платформы позволили SOCRadar получить доступ к журналам, консолям операторов, промптам и расшифровкам разговоров.

RSS: Новости на портале Anti-Malware.ru