Twitter заблокировали 360 тысяч аккаунтов, связанных с терроризмом

Twitter заблокировали 360 тысяч аккаунтов, связанных с терроризмом

Twitter заблокировали 360 тысяч аккаунтов, связанных с терроризмом

Начиная с середины 2015 года, Twitter приостановили деятельность 360 тысяч аккаунтов за нарушение политики, связанной с продвижением терроризма. За последние шесть месяцев было заблокировано 235 тысяч аккаунтов.

Еще в феврале Twitter объявили, что заблокировали 125 тысяч аккаунтов за пропаганду насилия и экстремизма, и с тех пор компания активизировала свою борьбу против насилия.

Twitter отмечают в своем блоге, что они решительно осуждают действия террористов и пропаганду насилия и будут бороться с этим на их платформе.

С тех пор, как компания инициировала борьбу с пропагандой терроризма, блокировка аккаунтов увеличилась на 80%. Компания утверждает, что действия аккаунтов приостанавливаются быстрее и, следовательно, им не удается собрать большого количества подписчиков.

«Мы также добились успеха в том, чтобы предотвращать повторное регистрирование уже забаненных аккаунтов и расширили свою команду, которая круглосуточно рассматривает жалобы и доклады. Кроме этого мы сотрудничаем с другими социальными платформами, обмениваемся информацией и опытом для выявления экстремистского содержания» - говорят в Twitter.

Twitter также использует патентованные средства борьбы со спамом, чтобы автоматизировать идентификацию повторного нарушения правил. Более одной трети заблокированных аккаунтов были автоматически выявлены с помощью таких инструментов, говорится в сообщении компании, но при этом компания подчеркивает, что до сих пор нет волшебного алгоритма для идентификации террористического контента в Интернете.

Кроме того, компания работает с объектами правоприменительной деятельности, когда они нуждаются в помощи в расследовании. Два раза в год Twitter публично в своих докладах делится информацией о полученных из правительства запросах.

Другие крупные компании также активизировали борьбу с терроризмом в течение последних нескольких месяцев, в том числе Microsoft.

Подпишитесь на новости

В НГУ создали платформу для проверки качества данных, на которых обучают ИИ

В Новосибирском государственном университете разработали «Каппу» — платформу для управления данными, на которых обучают ИИ. Она должна помочь разобраться, кто подготовил датасет, что в нём меняли и откуда взялась ошибка. Потому что кормить модель мусором, а потом удивляться её ответам — довольно странно.

О разработке и возможности подключения других вузов сообщил сам НГУ. Университетам предлагают бесплатную облачную версию на серверах НГУ либо платную установку в собственной инфраструктуре.

«Каппа» поддерживает разметку и проверку данных, фиксирует версии наборов и авторство изменений. Исправление ошибки сохраняется в новой версии, чтобы при следующем обучении не наступать на те же грабли.

Платформа также позволяет проверять разные модели на подготовленных датасетах. При обучении фиксируются версия данных и параметры, после — результаты тестирования на эталонных наборах. Во время эксплуатации телеметрия помогает отслеживать ошибки и замечать отклонения.

Локальная установка рассчитана в том числе на случаи, когда конфиденциальные данные нельзя выносить за пределы организации.

В репозитории разработчиков среди задач проекта указаны контроль обучения, отслеживание авторства разметки и соблюдения стандартов. Здесь ставка на прослеживаемость: прежде чем требовать от ИИ безупречных ответов, полезно выяснить, чему именно его учили.

RSS: Новости на портале Anti-Malware.ru