Google Messages будет предупреждать о наготе не только в фото, но и в видео

Google Messages будет предупреждать о наготе не только в фото, но и в видео

Google Messages будет предупреждать о наготе не только в фото, но и в видео

Сегодня удобно быть на связи — можно за секунду отправить фото, видео или что-то важное близким. Но у этой медали есть и обратная сторона: иногда получить что-то совсем не хочется. Например, откровенные или даже шокирующие материалы.

Именно для таких случаев Google в прошлом году запустила функцию Sensitive Content Warnings — предупреждения о «чувствительном контенте» в приложении «Сообщения». Система работает прямо на устройстве и заранее сканирует картинки на наличие наготы.

Весной функция начала постепенно появляться у пользователей, но, похоже, Google не собирается останавливаться. В свежей тестовой сборке Messages для Samsung (build messages.android_20250719_00_RC00.phone_samsung_openbeta_dynamic) обнаружились строки, намекающие на новый уровень защиты — уже для видео.

Вот что нашли в коде:

<string name="spatula_toolstone_video">video</string>
<string name="spatula_video_warning">Video may contain nudity</string>

«Spatula» — это внутреннее кодовое имя функции Sensitive Content Warnings. Судя по новой строке, Google готовит аналогичное предупреждение для видеороликов: если система заподозрит, что в ролике есть что-то откровенное, она предупредит пользователя заранее.

Пока функция ещё не работает — видео не обрабатываются через механизм SafetyCore. Но направление явно задано. С учётом широкого распространения RCS и всё большего количества мультимедийных сообщений, логично, что Google хочет защитить пользователей не только от нежелательных фото, но и от видео, которые никто не просил.

Так что вполне возможно, что уже скоро в «Сообщениях» появится автоматическое предупреждение: «видео может содержать наготу». И это полезная штука — особенно если кто-то решит влезть в личные сообщения с чем-то неподобающим.

Подпишитесь на новости

68% инцидентов без аналитика: что обещает ИИ в MaxPatrol O2

Очередь инцидентов растёт, а дополнительных аналитиков из воздуха не выдают. Positive Technologies предлагает разгрузить SOC с помощью каскада ИИ-моделей MaxPatrol O2. По данным компании, система автоматически закрывает 68% инцидентов, тратя на каждый около 15-20 секунд. По оставшимся аналитик получает вердикт с объяснением менее чем за 15 минут.

Работа разделена на два этапа. Сначала ML-модели оценивают инциденты и закрывают ложные срабатывания.

Подозрительные случаи передаются ИИ-агенту: он строит гипотезу, проверяет её по событиям из разных источников и готовит отчёт. Получается распределение обязанностей, похожее на работу первой и второй линий SOC.

В отчёте приводятся собранные события и похожие инциденты с вердиктами. Каждый факт можно проследить до исходного события. Степень самостоятельности системы настраивается: например, автоматическое закрытие можно разрешить только для отдельных классов инцидентов.

Разработчик также заявляет о совпадении вердиктов MaxPatrol O2 с вердиктами облачного сервиса PT X, сверенными с решениями аналитиков, более чем в 98% случаев.

В планах компании сократить долю инцидентов, требующих ручной работы, до 10%. Продукт доступен в облачной версии и для развёртывания в инфраструктуре заказчика.

Аналитиков из SOC пока не вычёркивают. Им обещают убрать значительную часть рутины, чтобы до подозрительной активности руки доходили раньше, чем до отчёта о пропущенной атаке.

RSS: Новости на портале Anti-Malware.ru