Facebook будет оценивать репутацию пользователей для борьбы с фейк-ньюз

Facebook будет оценивать репутацию пользователей для борьбы с фейк-ньюз

Facebook будет оценивать репутацию пользователей для борьбы с фейк-ньюз

Очередная мера борьбы с распространителями ложной информации была предпринята социальной сетью Facebook. Компания решила ввести шкалу оценки профилей пользователей «от нуля до одного», по которой будет определяться степень благонадежности того или иного пользователя.

Основная цель этой меры — пресечь распространение так называемых фейковых новостей и ложной информации.

Примечательно, что представители соцсети не раскрыли, как именно будет оцениваться тот или иной пользователь. На основании каких критериев будет присуждаться рейтинг пока тоже непонятно.

Причина, по которой в Facebook не раскрывают эту информацию, довольно проста — если распространителям дезинформации и другим злоумышленникам станут доступны эти данные, они не преминут использовать их в своих целях.

Это бы свело на нет все попытки компании бороться с фейковыми новостями.

Сегодня также стало известно, что социальная сеть «почистила» свою платформу, как и смежный сервис Instagram, от части русских и иранских аккаунтов. В качестве причины социальная платформа указала подозрительные действия, имевшие характер организованной деятельности.

По словам представителей соцсети, создавались целые сети аккаунтов, которые вводили других пользователей в заблуждение.

Точка Банк запустил ИИ-проверку сайтов и соцсетей бизнеса на скрытые схемы

Точка Банк представил на Уральском форуме «Кибербезопасность в финансах» собственный сервис ИИ-мониторинга для проверки сайтов и соцсетей бизнеса. Сервис встроен в процессы банка и автоматически анализирует онлайн-площадки клиентов перед подключением интернет-эквайринга. Проверка проводится не один раз — мониторинг продолжается и дальше на регулярной основе.

Главная особенность решения — оно оценивает не только сайты, но и страницы в соцсетях. Сейчас система уже умеет проверять магазины во «ВКонтакте», в перспективе планируется добавить мониторинг телеграм-каналов юридических лиц.

ИИ-мониторинг проверяет несколько вещей. Во-первых, наличие вредоносного кода — например, если на сайте размещён скрипт, который может перехватывать данные банковских карт или доступ к интернет-банку.

Во-вторых, анализируется содержание площадки: большие языковые модели оценивают тексты и ищут признаки скрытой или запрещённой деятельности. В-третьих, система отслеживает продажу запрещённых товаров и услуг — например, если под видом одной продукции фактически рекламируется другая.

В банке подчёркивают, что результаты автоматической проверки не являются окончательными: все подозрительные случаи передаются специалисту для дополнительного анализа, и решение принимается уже с учётом полной картины.

По словам Андрея Румянцева, лидера направления машинного обучения в Точка Банке, сервис настроен именно под задачи проверки бизнес-площадок и обучен на большом массиве сайтов юридических лиц.

Технология, по его словам, должна помочь банку снижать риски работы с недобросовестными компаниями, а предпринимателям — вовремя замечать проблемы на своих онлайн-ресурсах.

Фактически речь идёт о ещё одном уровне проверки цифрового присутствия бизнеса — с упором не только на техническую безопасность, но и на содержание.

RSS: Новости на портале Anti-Malware.ru