Telegram заблокировал более 15 млн групп и каналов

Telegram заблокировал более 15 млн групп и каналов

Telegram заблокировал более 15 млн групп и каналов

Администрация Telegram опубликовала статистику по блокировке каналов и контента, нарушающих политику мессенджера или законы различных государств. Всего в 2024 году было заблокировано 15,4 млн групп и каналов.

Основными мотивами для блокировок, по официальному сообщению администрации мессенджера, являются подстрекательство к насилию, обмен материалами о жестоком обращении с детьми и торговля запрещенными товарами.

«С 2015 года модерация в Telegram сочетала реакцию на жалобы пользователей с активным мониторингом, использующим машинное обучение. В начале 2024 года эти средства были еще усилены с помощью передовых технологий, применяющих искусственный интеллект», — говорится в сообщении администрации Telegram.

Тем не менее именно слабое модерирование и отсутствие сотрудничества с правоохранительными органами были частой претензией к Telegram со стороны властей разных стран. Схожие обвинения французских властей привели к аресту Павла Дурова в августе 2024 года. Его обвиняли в использовании площадки для распространения детской порнографии, мошенничества и прочих преступлений.

В сентябре политика мессенджера была радикально пересмотрена. Лично Павел Дуров заявил, что администрация площадки будет раскрывать правоохранительным органам нарушителей.

В декабре Telegram начал сотрудничать и с рядом некоммерческих организаций, в частности, с британской IWF, которая занимается борьбой с сексуальной эксплуатацией детей и подростков и удалении из Сети материалов, содержащих детскую порнографию.

После начала сотрудничества с IWF Telegram расширил базу контента, содержащего сцены с сексуальным насилием над детьми. За 2024 год было удалено более 700 тысяч групп и каналов, которые распространяли такого рода контент.

Модераторы также удалили почти 130 тысяч каналов и групп, связанных с террористическими организациями. Дополнительно в сотрудничестве с правоохранительными органами и неправительственными организациями было пресечено распространение 100 млн единиц контента, содержащего призывы к насилию или пропаганду терроризма.

«За последние несколько лет наша команда модераторов неустанно трудилась, чтобы обеспечить безопасность Telegram. Каждый месяц они удаляли около 1 миллиона каналов и групп, а также более 10 миллионов пользователей, нарушивших наши правила. Эти впечатляющие результаты стали возможны благодаря вашим отчетам, а также нашим автоматизированным системам обнаружения и инструментам на основе искусственного интеллекта. Однако большая часть этой работы осталась за кулисами. Общественность не была полностью осведомлена о масштабах наших усилий по модерации, и СМИ часто полагались на устаревшую информацию из частей нашего веб-сайта, которые не обновлялись десятилетие», — написал Павел Дуров в личном блоге.

Chrome-расширения с ИИ оказались опасной точкой входа для атак

Любите ИИ-помощников прямо в браузере? Тогда есть неприятные новости. Исследователи из Rebora Security Research обнаружили критические уязвимости сразу в двух популярных расширениях для Chrome — SiderAI и MaxAI. В сумме эти инструменты установлены более чем на 10 миллионах устройств.

Бреши получили собственные имена — Spyder и MaXSS. И звучат они почти так же неприятно, как работают.

Оба расширения используют глубокую интеграцию с браузером. Именно поэтому они могут пересказывать статьи, отвечать на вопросы по содержимому страниц и выполнять другие ИИ-задачи. Но та же самая интеграция неожиданно превратилась в огромную дыру в безопасности.

В случае с MaxAI исследователи обнаружили уязвимость MaXSS. Оказалось, что расширение доверяет сообщениям от посещаемых сайтов практически без проверки. В результате злоумышленники могут заставить его выполнять различные действия от имени пользователя: открывать скрытые вкладки, делать снимки экрана, получать доступ к конфиденциальным данным и даже перехватывать активные сессии.

 

У SiderAI ситуация не лучше. Уязвимость Spyder позволяет злоумышленникам имитировать действия пользователя на сайтах, создавать поддельные клики и ввод текста. По данным исследователей, атакующие могут получить доступ к истории ИИ-диалогов жертвы и незаметно отправить эти данные на внешние серверы.

Самое неприятное — для атаки пользователю не нужно ничего скачивать или подтверждать. Достаточно просто зайти на специально подготовленный сайт. Дальше всё происходит автоматически и практически незаметно.

Эксперты предупреждают, что последствия могут быть крайне серьёзными: от утечки личной информации и корпоративных данных до полного захвата учётных записей.

Проблема затрагивает не только Google Chrome. Под угрозой находятся практически все браузеры на базе Chromium, включая Microsoft Edge, Opera, Brave и другие.

На момент публикации разработчики SiderAI и MaxAI ещё не выпустили исправления. Поэтому исследователи рекомендуют пользователям временно удалить оба расширения и внимательно проверить список установленных браузерных дополнений.

RSS: Новости на портале Anti-Malware.ru