WhatsApp (принадлежит Meta, признанной экстремистской и запрещённой в России) начал ограниченное бета-тестирование функции Scam Alert, которая предупреждает о подозрительных сообщениях от незнакомцев. Проверкой занимается модель машинного обучения прямо на смартфоне: содержимое переписки не отправляется ни WhatsApp, ни Meta.
Сквозное шифрование обещают не ломать — редкий случай, когда антифрод не требует заглянуть пользователю через плечо.
После включения функции устройство загружает модель и анализирует структуру диалога и языковые признаки мошенничества. Если сообщение покажется подозрительным, получатель увидит предупреждение. Отправитель об этом не узнает.
Пользователь сможет заблокировать собеседника, пожаловаться, проигнорировать сигнал или объявить чат доверенным. В последнем случае можно добровольно передать пять последних полученных сообщений для улучшения модели.
Чтобы Meta не могла незаметно подсунуть отдельному человеку специальную версию анализатора, каждый релиз модели регистрируется в стороннем неизменяемом журнале. Манифест с хешами SHA-256 подписывается ключами Ed25519, которыми управляет Cloudflare. Смартфон проверяет подпись, запись в журнале и целостность файлов до запуска модели.
WhatsApp будет получать только обезличенные счётчики срабатываний и последующих действий пользователей. В приложении также появится журнал Scam Alert Activity с результатами проверок и версиями модели. Пока это ранняя техническая версия, а не готовый массовый релиз.
Тем временем Signal запустил автоматическую проверку ключей. Функция использует криптографически проверяемый журнал и позволяет убедиться, что между собеседниками не пристроился незваный посредник. Независимыми аудиторами выступают Cloudflare и Trail of Bits, причём открытые данные пользователей им не показываются.
