Разработка новосибирских ученых снизит галлюцинации ИИ

Разработка новосибирских ученых снизит галлюцинации ИИ

Разработка новосибирских ученых снизит галлюцинации ИИ

В Новосибирском государственном университете разработали библиотеку, которая повышает точность и надёжность ответов нейросетей и помогает снизить количество «выдуманных» или заведомо недостоверных ответов — так называемых ИИ-галлюцинаций. Решение получило название RAGU (Retrieval-Augmented Graph Utility) и основано на использовании графов знаний, отражающих связи между различными элементами информации.

Такие графы помогают нейросетям лучше понимать контекст запросов и выявлять неочевидные зависимости. В рамках проекта они были интегрированы с большими языковыми моделями, что позволило повысить качество генерации ответов.

«Саму концепцию придумали не мы. Архитектура GraphRAG была предложена в статье Microsoft, опубликованной около года назад. Идея оказалась удачной, но мы увидели ряд недостатков — в частности, очень долгий процесс построения графа знаний и недетерминированный результат. Наш подход позволил ускорить работу и повысить её надёжность», — рассказал научный сотрудник лаборатории прикладных цифровых технологий Международного научно-образовательного математического центра НГУ Иван Бондаренко.

В отличие от оригинального подхода Microsoft, новосибирские исследователи применили многошаговый метод формирования графа знаний. Это позволило существенно ускорить процесс и снизить требования к вычислительным ресурсам. Если в исходной реализации использовалось порядка 32 млрд параметров, то в RAGU их число удалось сократить почти на два порядка — не только без потери качества, но и с его заметным улучшением.

Помимо специалистов НГУ, в проекте участвовали представители других российских вузов, включая МГУ, Балтийский федеральный университет имени Иммануила Канта, Университет науки и технологий МИСИС, Дальневосточный федеральный университет и Университет ИТМО.

Проект RAGU стал победителем в номинации «Инновации в области искусственного интеллекта» конкурса «Код без границ». Всего в конкурсе приняли участие более 200 проектов.

Антифрод за 3 млрд: операторы оценили маркировку иностранных звонков

Российским операторам связи предстоят новые расходы. Согласно расчётам к проекту Минцифры, внедрение обязательной маркировки международных звонков может обойтись отрасли примерно в 3 млрд рублей ежегодно. Новые правила планируется запустить с 1 марта 2027 года.

После этого входящие вызовы с иностранных номеров должны будут сопровождаться специальной пометкой.

А если это позволяет техническая инфраструктура оператора, абоненту также будут показывать страну, из которой поступает звонок.

Инициатива, как пишет «КоммерсантЪ», входит во второй пакет антифрод-мер, подписанный президентом 26 июня. Предполагается, что дополнительная маркировка поможет пользователям быстрее распознавать потенциально подозрительные звонки и осложнит работу телефонных мошенников.

Впрочем, сами операторы смотрят на нововведение менее оптимистично. Сейчас они уже маркируют вызовы от юридических лиц, однако считают, что распространение этой системы на международные звонки потребует куда более серьёзных затрат.

По словам представителей компаний, предыдущий этап проекта уже потребовал значительных инвестиций в оборудование и модернизацию сетевой инфраструктуры.

В Минцифры, напротив, уверены, что расходы окажутся не столь значительными. В ведомстве считают, что большая часть необходимой функциональности уже внедрена у операторов, а окончательные суммы можно будет оценить после получения данных от участников рынка.

Таким образом, спор пока идет не вокруг самой идеи маркировки, а вокруг её стоимости. Если расчеты операторов подтвердятся, внедрение новой антифрод-системы станет одним из самых дорогостоящих проектов в сфере телефонной безопасности последних лет.

RSS: Новости на портале Anti-Malware.ru