Google представила систему для блокировки детской порнографии

Google представила систему для блокировки детской порнографии

Компания Google начала активную компанию по борьбе с детской порнографией и представила автоматизированную систему для распознавания и блокировки такого контента, заявил председатель совета директоров Google Эрик Шмидт британскому изданию Daily Mail.

Над созданием технологии распознавания запрещенного контента, в основу которой легли технологии анализа изображений от компании Microsoft, работало более 200 специалистов Google. Автоматизированная система может определять фотографии и видео, содержащие сцены с детской порнографией, и удалять информацию о них из сервисов компании. Для избегания ложных срабатываний, материалы дополнительно просматриваются специалистами, сообщил Эрик Шмидт.

В итоге, из поисковой выдачи Google на данный момент убраны результаты более 100 тысяч запросов, которые могли иметь отношение к детской порнографии. Дополнительно, по другим 13 тысячам запросов перед результатами поиска будет высвечиваться специальное предупреждение, передает digit.ru.

Пока эта система представлена только для английского языка, но в ближайшие шесть месяцев в нее будет добавлена поддержка 158 языков, говорится в сообщении издания Daily Mail. Эрик Шмидт сообщил, что в следующем году компания планирует закончить доработку системы и предоставить ее другим интернет-компаниям и организациям по защите детей. Также, аналогичные ограничения будут введены компанией Microsoft для ее поисковой системы Bing и сервисов Yahoo.

Подпишитесь на новости

68% инцидентов без аналитика: что обещает ИИ в MaxPatrol O2

Очередь инцидентов растёт, а дополнительных аналитиков из воздуха не выдают. Positive Technologies предлагает разгрузить SOC с помощью каскада ИИ-моделей MaxPatrol O2. По данным компании, система автоматически закрывает 68% инцидентов, тратя на каждый около 15-20 секунд. По оставшимся аналитик получает вердикт с объяснением менее чем за 15 минут.

Работа разделена на два этапа. Сначала ML-модели оценивают инциденты и закрывают ложные срабатывания.

Подозрительные случаи передаются ИИ-агенту: он строит гипотезу, проверяет её по событиям из разных источников и готовит отчёт. Получается распределение обязанностей, похожее на работу первой и второй линий SOC.

В отчёте приводятся собранные события и похожие инциденты с вердиктами. Каждый факт можно проследить до исходного события. Степень самостоятельности системы настраивается: например, автоматическое закрытие можно разрешить только для отдельных классов инцидентов.

Разработчик также заявляет о совпадении вердиктов MaxPatrol O2 с вердиктами облачного сервиса PT X, сверенными с решениями аналитиков, более чем в 98% случаев.

В планах компании сократить долю инцидентов, требующих ручной работы, до 10%. Продукт доступен в облачной версии и для развёртывания в инфраструктуре заказчика.

Аналитиков из SOC пока не вычёркивают. Им обещают убрать значительную часть рутины, чтобы до подозрительной активности руки доходили раньше, чем до отчёта о пропущенной атаке.

RSS: Новости на портале Anti-Malware.ru