WhatsApp подключил локальный ИИ-антискам ибудет вычислять мошенников

WhatsApp подключил локальный ИИ-антискам ибудет вычислять мошенников

WhatsApp подключил локальный ИИ-антискам ибудет вычислять мошенников

WhatsApp (принадлежит Meta, признанной экстремистской и запрещённой в России) начал ограниченное бета-тестирование функции Scam Alert, которая предупреждает о подозрительных сообщениях от незнакомцев. Проверкой занимается модель машинного обучения прямо на смартфоне: содержимое переписки не отправляется ни WhatsApp, ни Meta.

Сквозное шифрование обещают не ломать — редкий случай, когда антифрод не требует заглянуть пользователю через плечо.

После включения функции устройство загружает модель и анализирует структуру диалога и языковые признаки мошенничества. Если сообщение покажется подозрительным, получатель увидит предупреждение. Отправитель об этом не узнает.

Пользователь сможет заблокировать собеседника, пожаловаться, проигнорировать сигнал или объявить чат доверенным. В последнем случае можно добровольно передать пять последних полученных сообщений для улучшения модели.

Чтобы Meta не могла незаметно подсунуть отдельному человеку специальную версию анализатора, каждый релиз модели регистрируется в стороннем неизменяемом журнале. Манифест с хешами SHA-256 подписывается ключами Ed25519, которыми управляет Cloudflare. Смартфон проверяет подпись, запись в журнале и целостность файлов до запуска модели.

WhatsApp будет получать только обезличенные счётчики срабатываний и последующих действий пользователей. В приложении также появится журнал Scam Alert Activity с результатами проверок и версиями модели. Пока это ранняя техническая версия, а не готовый массовый релиз.

Тем временем Signal запустил автоматическую проверку ключей. Функция использует криптографически проверяемый журнал и позволяет убедиться, что между собеседниками не пристроился незваный посредник. Независимыми аудиторами выступают Cloudflare и Trail of Bits, причём открытые данные пользователей им не показываются.

Подпишитесь на новости

Нарисованный ChatGPT медведь обошелся жительнице Приамурья в 15 тыс. штрафа

Жительница Магдагачи в Амурской области добавила медведя на фотографию улицы с помощью ChatGPT, чтобы разыграть подругу. Но картинка разошлась по мессенджерам, жители начали звонить в полицию, а искать нарисованного хищника отправились охотники с техникой.

Как сообщила пресс-служба судов региона, женщина использовала собственный снимок улицы Красноармейской.

Изображение оказалось достаточно убедительным, чтобы информация дошла до главы округа и начались поиски животного.

Одна из местных жительниц рассказала, что весь день боялась выйти из дома и даже не смогла сходить в магазин.

Позднее автор сама позвонила в полицию и призналась, что создала изображение с помощью ИИ. В суде она признала вину и раскаялась, объяснив, что хотела лишь пошутить.

Женщину признали виновной по части 9 статьи 13.15 КоАП РФ. Суд назначил штраф 15 тыс. рублей — ниже предусмотренного минимального размера в 30 тыс. При этом учли признание вины, раскаяние, имущественное положение и первое привлечение к ответственности.

Изъятый iPhone 15 конфисковывать не стали. Женщина просила вернуть устройство, поскольку использует его для работы.

Это уже не первый случай с искусственными медведями: в сентябре жительницу Дульдурги в Забайкалье оштрафовали на 30 тыс. рублей за похожую публикацию и конфисковали iPhone 11.

RSS: Новости на портале Anti-Malware.ru