Telegram заблокировал более 15 млн групп и каналов

Telegram заблокировал более 15 млн групп и каналов

Telegram заблокировал более 15 млн групп и каналов

Администрация Telegram опубликовала статистику по блокировке каналов и контента, нарушающих политику мессенджера или законы различных государств. Всего в 2024 году было заблокировано 15,4 млн групп и каналов.

Основными мотивами для блокировок, по официальному сообщению администрации мессенджера, являются подстрекательство к насилию, обмен материалами о жестоком обращении с детьми и торговля запрещенными товарами.

«С 2015 года модерация в Telegram сочетала реакцию на жалобы пользователей с активным мониторингом, использующим машинное обучение. В начале 2024 года эти средства были еще усилены с помощью передовых технологий, применяющих искусственный интеллект», — говорится в сообщении администрации Telegram.

Тем не менее именно слабое модерирование и отсутствие сотрудничества с правоохранительными органами были частой претензией к Telegram со стороны властей разных стран. Схожие обвинения французских властей привели к аресту Павла Дурова в августе 2024 года. Его обвиняли в использовании площадки для распространения детской порнографии, мошенничества и прочих преступлений.

В сентябре политика мессенджера была радикально пересмотрена. Лично Павел Дуров заявил, что администрация площадки будет раскрывать правоохранительным органам нарушителей.

В декабре Telegram начал сотрудничать и с рядом некоммерческих организаций, в частности, с британской IWF, которая занимается борьбой с сексуальной эксплуатацией детей и подростков и удалении из Сети материалов, содержащих детскую порнографию.

После начала сотрудничества с IWF Telegram расширил базу контента, содержащего сцены с сексуальным насилием над детьми. За 2024 год было удалено более 700 тысяч групп и каналов, которые распространяли такого рода контент.

Модераторы также удалили почти 130 тысяч каналов и групп, связанных с террористическими организациями. Дополнительно в сотрудничестве с правоохранительными органами и неправительственными организациями было пресечено распространение 100 млн единиц контента, содержащего призывы к насилию или пропаганду терроризма.

«За последние несколько лет наша команда модераторов неустанно трудилась, чтобы обеспечить безопасность Telegram. Каждый месяц они удаляли около 1 миллиона каналов и групп, а также более 10 миллионов пользователей, нарушивших наши правила. Эти впечатляющие результаты стали возможны благодаря вашим отчетам, а также нашим автоматизированным системам обнаружения и инструментам на основе искусственного интеллекта. Однако большая часть этой работы осталась за кулисами. Общественность не была полностью осведомлена о масштабах наших усилий по модерации, и СМИ часто полагались на устаревшую информацию из частей нашего веб-сайта, которые не обновлялись десятилетие», — написал Павел Дуров в личном блоге.

Подпишитесь на новости

Anthropic сообщила полиции об угрозах нападения в чате с Claude

Разговор с ИИ закончился визитом полиции. Во Флориде 30-летнюю Карли Мишель Хеллер обвинили в письменных угрозах насилия после переписки с Claude. По версии следствия, она заявила о намерении устроить стрельбу в офисе шерифа округа Ли, а затем сообщила, что приобрела оружие.

Как пишет Gulf Coast News, сообщения заметили системы безопасности Anthropic. Переписку передали на проверку человеку, после чего компания уведомила правоохранителей.

По сообщениям СМИ, сотрудники установили личность Хеллер и задержали её дома без лишнего шума. Шериф Кармайн Марсено рассказал, что женщина использовала Claude как дневник.

Хеллер предъявили обвинение в преступлении второй степени по закону Флориды. Виновность женщины предстоит установить суду.

История показывает границу, о которой легко забыть за дружелюбным интерфейсом: чат с ИИ нельзя воспринимать как дневник в запертом ящике. В этом случае потенциально опасные сообщения прошли автоматическую проверку, оценку специалиста и дошли до полиции.

При этом делать вывод, что любая резкая фраза автоматически приводит к аресту, оснований нет. Здесь, по версии следствия, переписка содержала конкретную цель предполагаемого нападения и заявление о приобретении оружия. Именно эти обстоятельства теперь будут разбирать в рамках дела.

RSS: Новости на портале Anti-Malware.ru