Google: Android SafetyCore — не сканер, а классификатор контента на базе ИИ

Google: Android SafetyCore — не сканер, а классификатор контента на базе ИИ

Google: Android SafetyCore — не сканер, а классификатор контента на базе ИИ

Развертывание защиты Android System SafetyCore вызвало опасения в отношении приватности чатов. Разработчик пояснил: ИИ-приложение не сканирует контент на стороне клиента, а лишь классифицирует его по запросу Google Messages.

О намерении Google усилить защиту обмена сообщениями в Android с помощью ИИ стало известно в октябре прошлого года. Механизм SafetyCore на тот момент проходил тестирование, а теперь его начали подключать на устройствах с ОС версий 9 и выше, а также с Android Go.

«SafetyCore — это новая системная служба Android 9+, создающая на устройстве инфраструктуру для безопасной и конфиденциальной классификации контента с тем, чтобы пользователи могли отсеивать нежелательные сообщения», — заявил представитель Google в ответ на запрос The Hacker News о комментарии.

Отсутствие оснований для опасений подтвердили участники проекта GrapheneOS, которые и сами бы не прочь внедрить решение Google, но исходники SafetyCore закрыты.

«Google Messages использует новое приложение для категоризации сообщений: спам, вредоносные, обнаженка и т. п. О попытках детекта нелегального контента с отправкой отчетов на сервис здесь и речи нет».

От себя добавим: новая фича Google схожа с защитой Communication Safety, которую Apple реализовала для iMessage. Там тоже локально используется ИИ, и по результатам анализа аттачей пользователям выводятся предупреждения.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Авито и BI.ZONE ускорили блокировку фишинговых сайтов на четверть

«Авито» совместно с BI.ZONE Brand Protection сообщают об улучшении механизмов борьбы с фишинговыми сайтами и другими схемами, направленными против пользователей платформы. За последние пять лет компании сократили количество подобных ресурсов на 85% и ускорили их блокировку примерно на четверть.

Что делают совместные команды:

  • выявляют и блокируют фишинговые сайты;
  • мониторят мошеннические схемы на теневых ресурсах;
  • контролируют сохранность персональных данных клиентов и сотрудников;
  • отслеживают утечки токенов и секретов на открытых dev-платформах;
  • противостоят атакам с использованием зловредов.

По данным компаний, в последние годы был улучшен процесс проверки доменов и алгоритмы поиска нелегитимной активности. Это позволило быстрее находить и блокировать ресурсы, созданные злоумышленниками для обмана пользователей.

В «Авито» отмечают, что главной целью остаётся повышение безопасности сервиса, а в BI.ZONE подчёркивают, что мошенники активно используют социальную инженерию и постоянно меняют подходы. Поэтому методы детекции и блокировки приходится регулярно адаптировать.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru