Facebook будет оценивать репутацию пользователей для борьбы с фейк-ньюз

Facebook будет оценивать репутацию пользователей для борьбы с фейк-ньюз

Facebook будет оценивать репутацию пользователей для борьбы с фейк-ньюз

Очередная мера борьбы с распространителями ложной информации была предпринята социальной сетью Facebook. Компания решила ввести шкалу оценки профилей пользователей «от нуля до одного», по которой будет определяться степень благонадежности того или иного пользователя.

Основная цель этой меры — пресечь распространение так называемых фейковых новостей и ложной информации.

Примечательно, что представители соцсети не раскрыли, как именно будет оцениваться тот или иной пользователь. На основании каких критериев будет присуждаться рейтинг пока тоже непонятно.

Причина, по которой в Facebook не раскрывают эту информацию, довольно проста — если распространителям дезинформации и другим злоумышленникам станут доступны эти данные, они не преминут использовать их в своих целях.

Это бы свело на нет все попытки компании бороться с фейковыми новостями.

Сегодня также стало известно, что социальная сеть «почистила» свою платформу, как и смежный сервис Instagram, от части русских и иранских аккаунтов. В качестве причины социальная платформа указала подозрительные действия, имевшие характер организованной деятельности.

По словам представителей соцсети, создавались целые сети аккаунтов, которые вводили других пользователей в заблуждение.

Разработка новосибирских ученых снизит галлюцинации ИИ

В Новосибирском государственном университете разработали библиотеку, которая повышает точность и надёжность ответов нейросетей и помогает снизить количество «выдуманных» или заведомо недостоверных ответов — так называемых ИИ-галлюцинаций. Решение получило название RAGU (Retrieval-Augmented Graph Utility) и основано на использовании графов знаний, отражающих связи между различными элементами информации.

Такие графы помогают нейросетям лучше понимать контекст запросов и выявлять неочевидные зависимости. В рамках проекта они были интегрированы с большими языковыми моделями, что позволило повысить качество генерации ответов.

«Саму концепцию придумали не мы. Архитектура GraphRAG была предложена в статье Microsoft, опубликованной около года назад. Идея оказалась удачной, но мы увидели ряд недостатков — в частности, очень долгий процесс построения графа знаний и недетерминированный результат. Наш подход позволил ускорить работу и повысить её надёжность», — рассказал научный сотрудник лаборатории прикладных цифровых технологий Международного научно-образовательного математического центра НГУ Иван Бондаренко.

В отличие от оригинального подхода Microsoft, новосибирские исследователи применили многошаговый метод формирования графа знаний. Это позволило существенно ускорить процесс и снизить требования к вычислительным ресурсам. Если в исходной реализации использовалось порядка 32 млрд параметров, то в RAGU их число удалось сократить почти на два порядка — не только без потери качества, но и с его заметным улучшением.

Помимо специалистов НГУ, в проекте участвовали представители других российских вузов, включая МГУ, Балтийский федеральный университет имени Иммануила Канта, Университет науки и технологий МИСИС, Дальневосточный федеральный университет и Университет ИТМО.

Проект RAGU стал победителем в номинации «Инновации в области искусственного интеллекта» конкурса «Код без границ». Всего в конкурсе приняли участие более 200 проектов.

RSS: Новости на портале Anti-Malware.ru