Модераторы Telegram блокируют по 100 вредоносных каналов в сутки

Модераторы Telegram блокируют по 100 вредоносных каналов в сутки

Модераторы Telegram блокируют по 100 вредоносных каналов в сутки

Сотрудник MIT Лекс Фридман, который ведет свой подкаст на YouTube, выложил в паблик интервью с Павлом Дуровым. В ходе беседы основатель Telegram отметил, что они ежедневно блокируют около100 каналов за пропаганду насилия и терроризма.

С учетом блокировки отдельных групп, аккаунтов и публикаций общий объем удаляемого контента, по словам Дурова, скоро достигнет 1 млн единиц в неделю.

«Мы активно боремся с вредоносным контентом, который публично распространяется на нашей платформе уже лет десять, с тех пор, как мы запустили публичные каналы,— заявил создатель популярного мессенджера. — И где-то лет восемь назад у нас появились ежедневные отчеты о прозрачности, где указано, сколько каналов, связанных с жестоким обращением с людьми, пропагандой терроризма, мы заблокировали».

В 2024 году в Telegram, по внутренним данным, было заблокировано 15,4 млн групп и каналов, нарушающих политику IM-сервиса и законы различных государств. Мессенджер активно сотрудничает с НКО Internet Watch Foundation в рамках борьбы с детской порнографией и распространением контента, связанного с насилием над детьми.

С начала этого года российские эксперты фиксируют всплеск активности модераторов в Telegram. Особенно часто закрываются чаты, через которые распространяются базы пользовательских данных; в результате число сливов ПДн россиян уменьшилось.

Минувшим летом в Telegram была запущена кампания по блокировке каналов, занимающихся доксингом (сбором и публикацией персональных данных с целью шантажа).

В то же время Дуров в своих заявлениях всегда подчеркивает: он не отказывается сотрудничать с правоохранительными органами, но душить свободу слова и блокировать политически ориентированные каналы по их указанию не намерен.

Подпишитесь на новости

68% инцидентов без аналитика: что обещает ИИ в MaxPatrol O2

Очередь инцидентов растёт, а дополнительных аналитиков из воздуха не выдают. Positive Technologies предлагает разгрузить SOC с помощью каскада ИИ-моделей MaxPatrol O2. По данным компании, система автоматически закрывает 68% инцидентов, тратя на каждый около 15-20 секунд. По оставшимся аналитик получает вердикт с объяснением менее чем за 15 минут.

Работа разделена на два этапа. Сначала ML-модели оценивают инциденты и закрывают ложные срабатывания.

Подозрительные случаи передаются ИИ-агенту: он строит гипотезу, проверяет её по событиям из разных источников и готовит отчёт. Получается распределение обязанностей, похожее на работу первой и второй линий SOC.

В отчёте приводятся собранные события и похожие инциденты с вердиктами. Каждый факт можно проследить до исходного события. Степень самостоятельности системы настраивается: например, автоматическое закрытие можно разрешить только для отдельных классов инцидентов.

Разработчик также заявляет о совпадении вердиктов MaxPatrol O2 с вердиктами облачного сервиса PT X, сверенными с решениями аналитиков, более чем в 98% случаев.

В планах компании сократить долю инцидентов, требующих ручной работы, до 10%. Продукт доступен в облачной версии и для развёртывания в инфраструктуре заказчика.

Аналитиков из SOC пока не вычёркивают. Им обещают убрать значительную часть рутины, чтобы до подозрительной активности руки доходили раньше, чем до отчёта о пропущенной атаке.

RSS: Новости на портале Anti-Malware.ru