Google Messages использует маячки из чатов для тренировки ИИ-антиспама

Google Messages использует маячки из чатов для тренировки ИИ-антиспама

Google Messages использует маячки из чатов для тренировки ИИ-антиспама

Google доработала защитную функциональность приложения Messages, «родного» мессенджера в мобильной операционной системе Android. Теперь функция обнаружения спама будет опираться в том числе на ИИ, обучающийся на маячках из незашифрованных чатов.

Задача фичи — отсеивать нежелательные или откровенно вредоносные СМС-сообщения. Опция обнаружения спама по умолчанию включена в Google Messages.

В идеале все потенциально опасные сообщения должны складываться в специальную директорию — «Спам», при этом все личные переписки пользователя, по словам разработчиков, не сканируются.

«С активированной функцией обнаружения спама ваши переписки остаются приватными», — гласит официальная документация.

Кроме того, Google добавила в спам-детектор алгоритмы машинного обучения, которые будут выискивать в сообщениях определённые паттерны, потенциально указывающие на спам.

Например, будет проверяться наличие ссылок во входящих СМС-сообщениях. Если таковые имеются, система направит их Google, чтобы убедиться в безвредности. При этом куски подозрительного текста будут расцениваться как «маячки», на которых и обучается ИИ-модель.

В Google подчёркивают, что антиспам будет анализировать текст исключительно в незашифрованных переписках, чтобы ваши личные коммуникации остались нетронутыми.

Минцифры задумалось о проверке возраста россиян в интернете

Минцифры присматривается к новому способу навести порядок в интернете: ведомство изучает возможность внедрения возрастной идентификации на онлайн-платформах. Об этом на ПМЭФ-2026 рассказал глава министерства Максут Шадаев. По его словам, вопрос проверки возраста пользователей становится одной из ближайших задач цифровой повестки.

В качестве примера министр привёл игровую платформу Roblox, которая уже начала внедрять биометрическую верификацию для доступа к отдельным функциям.

С начала года Roblox предлагает подтверждать возраст по селфи или документу с фотографией. Детям младше 13 лет ограничивают доступ к некоторым данным аккаунта и разрешают общаться только со сверстниками. В компании объясняют такие меры заботой о безопасности. И неудивительно: из 150 млн ежедневных пользователей платформы около трети составляют дети до 13 лет.

Российские эксперты, чьи слова передают «Ведомости», в целом считают идею разумной. По их мнению, возрастная идентификация может помочь защитить несовершеннолетних от нежелательного контента и сделать правила доступа к цифровым сервисам более прозрачными.

Технических вариантов хватает. Самый очевидный — привязка аккаунтов к «Госуслугам». Но здесь сразу возникает вопрос: сколько данных государство и платформы будут видеть друг о друге. Поэтому специалисты предлагают более осторожный подход. Например, площадка могла бы получать только ответ «пользователь старше 18 лет», без передачи паспортных данных и другой личной информации.

Впрочем, главная проблема вовсе не в технологиях. Платформам придётся искать баланс между безопасностью, удобством и сохранением аудитории. Слишком сложная регистрация может отпугнуть пользователей, а слишком формальная проверка окажется бесполезной и будет легко обходиться.

Есть и другая загвоздка. Значительная часть популярных сервисов работает за пределами России. Вряд ли зарубежные игровые магазины и соцсети поспешат подстраиваться под новые требования.

По оценкам экспертов, создание полноценной системы возрастной идентификации в масштабах рунета может занять от одного до трёх лет и потребовать десятков миллиардов рублей. При этом идеального решения, которое одновременно было бы удобным, безопасным и не нарушало приватность пользователей, пока не смогла построить ни одна страна мира.

RSS: Новости на портале Anti-Malware.ru