Google: Android SafetyCore — не сканер, а классификатор контента на базе ИИ

Google: Android SafetyCore — не сканер, а классификатор контента на базе ИИ

Google: Android SafetyCore — не сканер, а классификатор контента на базе ИИ

Развертывание защиты Android System SafetyCore вызвало опасения в отношении приватности чатов. Разработчик пояснил: ИИ-приложение не сканирует контент на стороне клиента, а лишь классифицирует его по запросу Google Messages.

О намерении Google усилить защиту обмена сообщениями в Android с помощью ИИ стало известно в октябре прошлого года. Механизм SafetyCore на тот момент проходил тестирование, а теперь его начали подключать на устройствах с ОС версий 9 и выше, а также с Android Go.

«SafetyCore — это новая системная служба Android 9+, создающая на устройстве инфраструктуру для безопасной и конфиденциальной классификации контента с тем, чтобы пользователи могли отсеивать нежелательные сообщения», — заявил представитель Google в ответ на запрос The Hacker News о комментарии.

Отсутствие оснований для опасений подтвердили участники проекта GrapheneOS, которые и сами бы не прочь внедрить решение Google, но исходники SafetyCore закрыты.

«Google Messages использует новое приложение для категоризации сообщений: спам, вредоносные, обнаженка и т. п. О попытках детекта нелегального контента с отправкой отчетов на сервис здесь и речи нет».

От себя добавим: новая фича Google схожа с защитой Communication Safety, которую Apple реализовала для iMessage. Там тоже локально используется ИИ, и по результатам анализа аттачей пользователям выводятся предупреждения.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Microsoft Defender ошибочно помечает BIOS Dell как устаревший

У Microsoft снова проблемы с ложными срабатываниями в ИБ-продуктах. На этот раз баг затронул Defender for Endpoint: система ошибочно помечала BIOS на некоторых устройствах Dell как устаревший и настойчиво советовала обновить прошивку.

В компании признали, что причиной стала ошибка в логике проверки уязвимостей именно для Dell.

Пользователи уже начали получать ложные уведомления, и Microsoft подтвердила, что затронуты корпоративные клиенты. Фикс уже есть, сейчас его готовят к развертыванию, но когда именно и в каких регионах он появится — пока не сообщают.

Параллельно инженеры Microsoft устранили другую проблему: на macOS-устройствах после обновления 29 сентября появлялись «чёрные экраны смерти». Оказалось, что сбой был вызван конфликтом в Apple Enterprise Security Framework, когда несколько провайдеров безопасности одновременно слушали события.

Это далеко не первый случай с ложными срабатываниями. В сентябре компания устраняла ошибку антиспама, из-за которой пользователи Teams и Exchange Online не могли открывать некоторые ссылки.

Ранее в этом году были похожие накладки: то Adobe-рассылки случайно попадали в спам, то Gmail-сообщения, то письма Exchange Online оказывались в карантине без повода.

Иными словами, Microsoft продолжает бороться не только с угрозами, но и с собственными алгоритмами.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru