Telegram заблокировал более 15 млн групп и каналов

Telegram заблокировал более 15 млн групп и каналов

Telegram заблокировал более 15 млн групп и каналов

Администрация Telegram опубликовала статистику по блокировке каналов и контента, нарушающих политику мессенджера или законы различных государств. Всего в 2024 году было заблокировано 15,4 млн групп и каналов.

Основными мотивами для блокировок, по официальному сообщению администрации мессенджера, являются подстрекательство к насилию, обмен материалами о жестоком обращении с детьми и торговля запрещенными товарами.

«С 2015 года модерация в Telegram сочетала реакцию на жалобы пользователей с активным мониторингом, использующим машинное обучение. В начале 2024 года эти средства были еще усилены с помощью передовых технологий, применяющих искусственный интеллект», — говорится в сообщении администрации Telegram.

Тем не менее именно слабое модерирование и отсутствие сотрудничества с правоохранительными органами были частой претензией к Telegram со стороны властей разных стран. Схожие обвинения французских властей привели к аресту Павла Дурова в августе 2024 года. Его обвиняли в использовании площадки для распространения детской порнографии, мошенничества и прочих преступлений.

В сентябре политика мессенджера была радикально пересмотрена. Лично Павел Дуров заявил, что администрация площадки будет раскрывать правоохранительным органам нарушителей.

В декабре Telegram начал сотрудничать и с рядом некоммерческих организаций, в частности, с британской IWF, которая занимается борьбой с сексуальной эксплуатацией детей и подростков и удалении из Сети материалов, содержащих детскую порнографию.

После начала сотрудничества с IWF Telegram расширил базу контента, содержащего сцены с сексуальным насилием над детьми. За 2024 год было удалено более 700 тысяч групп и каналов, которые распространяли такого рода контент.

Модераторы также удалили почти 130 тысяч каналов и групп, связанных с террористическими организациями. Дополнительно в сотрудничестве с правоохранительными органами и неправительственными организациями было пресечено распространение 100 млн единиц контента, содержащего призывы к насилию или пропаганду терроризма.

«За последние несколько лет наша команда модераторов неустанно трудилась, чтобы обеспечить безопасность Telegram. Каждый месяц они удаляли около 1 миллиона каналов и групп, а также более 10 миллионов пользователей, нарушивших наши правила. Эти впечатляющие результаты стали возможны благодаря вашим отчетам, а также нашим автоматизированным системам обнаружения и инструментам на основе искусственного интеллекта. Однако большая часть этой работы осталась за кулисами. Общественность не была полностью осведомлена о масштабах наших усилий по модерации, и СМИ часто полагались на устаревшую информацию из частей нашего веб-сайта, которые не обновлялись десятилетие», — написал Павел Дуров в личном блоге.

BI.ZONE Mail Security получила ИИ для анализа эмоций в письмах

В BI.ZONE Mail Security появилась новая ИИ-функциональность: система научилась анализировать эмоциональную окраску писем и использовать это для выявления атак. Обновление вошло в версию 2.11 и нацелено прежде всего на борьбу с фишингом и BEC-сценариями, замаскированными под обычную деловую переписку.

Новый ИИ-модуль оценивает тональность писем — позитивную, негативную или нейтральную — и параллельно ищет признаки манипулятивного воздействия.

Речь идёт о характерных приёмах социальной инженерии: давлении, апелляции к срочности, тревожной или ультимативной подаче. За счёт этого система может точнее понимать намерения отправителя и быстрее реагировать на письма, которые внешне выглядят легитимно, но на самом деле подталкивают получателя к рискованным действиям.

Как отмечают в BI.ZONE, злоумышленники всё чаще выдают себя за бухгалтерию, руководителей или подрядчиков и делают ставку не на вредоносные вложения, а на психологию. Поэтому задача защиты почты сегодня — не просто проверить ссылки и домены, а распознать контекст и скрытые попытки давления. Анализ эмоциональных и поведенческих паттернов позволяет лучше отделять реальные рабочие письма от фишинга и атак класса BEC.

Помимо ИИ-анализа, в версии 2.11 доработали и сопутствующую функциональность. Появилась автоматическая синхронизация списка разрешённых получателей с Active Directory, что упрощает администрирование и снижает риск ошибок в настройках. Для защиты учётных записей добавили двухфакторную аутентификацию по TOTP и механизм принудительной смены паролей по истечении срока их действия.

Обновили и сценарии реагирования на подозрительные письма. Теперь можно включать предупреждения для сообщений от внешних отправителей и добавлять кнопку жалобы прямо в тело письма. Если на сообщение пожаловался один сотрудник, система повышает риск-рейтинг отправителя и блокирует его письма только для этого пользователя.

При массовых жалобах блокировка применяется уже на уровне всей организации. При этом учитываются и обратные ситуации: если письма разрешают или массово помечают отправителя как доверенного, риск-рейтинг автоматически снижается — индивидуально или глобально.

В новой версии также усилили фильтрацию поддельных писем: улучшили проверку DMARC для защиты от подмены доменов. Для onprem-установок упростили обновление — теперь перейти на актуальную версию можно напрямую через инсталлятор. Журнал сообщений стал более подробным: в нём отображается рейтинг письма на каждом этапе проверки и детальная информация по SMTP-анализу. Кроме того, администраторам дали возможность вручную обучать модель категоризации писем через веб-интерфейс.

В итоге BI.ZONE Mail Security 2.11 делает акцент не столько на «громкие» вредоносные письма, сколько на тихие, психологически выверенные атаки — именно те, которые сегодня всё чаще проходят под видом обычной корпоративной переписки.

RSS: Новости на портале Anti-Malware.ru