Kaspersky представила сервис для выявления закладок в ПО с открытым кодом

Kaspersky представила сервис для выявления закладок в ПО с открытым кодом

Kaspersky представила сервис для выявления закладок в ПО с открытым кодом

«Лаборатория Касперского» сообщила о выходе нового фида — Kaspersky Open Source Software Threats Data Feed, ставшего первым в России сервисом для выявления закладок в сторонних компонентах и софте с открытым исходным кодом.

Благодаря Kaspersky Open Source Software Threats Data Feed компании смогут свести к минимуму риски использования открытого исходного кода. Сервис всегда будет располагать данными о пакетах с уязвимостями, вредоносным кодом и недекларированными «фичами».

По словам «Лаборатории Касперского», сейчас в фиде содержится информация приблизительно о трёх тысячах дырявых и вредоносных пакетов, которые можно найти в популярных репозиториях.

Стоит учитывать, что в десятках таких пакетов также присутствуют скрытые возможности, позволяющие, например, выводить нежелательную информацию на политические темы. По данным исследователей, некоторые из нежелательных компонентов загрузили десятки тысяч пользователей.

Среди брешей, которые можно встретить в пакетах Open Source, Kaspersky выявила 35% уязвимостей высокой степени опасности, 10% — критических.

Ожидается, что Kaspersky Open Source Software Threats Data Feed поможет разработчикам вовремя распознать уязвимые и скомпрометированные пакеты, что позволит избежать не только вредоносных закладок, но и политических лозунгов.

Новый сервис особенно актуален, учитывая желание некоторых менять функциональность своих пакетов в определённых регионах. Например, встречаются пакеты, блокирующие свои возможности в РФ.

Разработка новосибирских ученых снизит галлюцинации ИИ

В Новосибирском государственном университете разработали библиотеку, которая повышает точность и надёжность ответов нейросетей и помогает снизить количество «выдуманных» или заведомо недостоверных ответов — так называемых ИИ-галлюцинаций. Решение получило название RAGU (Retrieval-Augmented Graph Utility) и основано на использовании графов знаний, отражающих связи между различными элементами информации.

Такие графы помогают нейросетям лучше понимать контекст запросов и выявлять неочевидные зависимости. В рамках проекта они были интегрированы с большими языковыми моделями, что позволило повысить качество генерации ответов.

«Саму концепцию придумали не мы. Архитектура GraphRAG была предложена в статье Microsoft, опубликованной около года назад. Идея оказалась удачной, но мы увидели ряд недостатков — в частности, очень долгий процесс построения графа знаний и недетерминированный результат. Наш подход позволил ускорить работу и повысить её надёжность», — рассказал научный сотрудник лаборатории прикладных цифровых технологий Международного научно-образовательного математического центра НГУ Иван Бондаренко.

В отличие от оригинального подхода Microsoft, новосибирские исследователи применили многошаговый метод формирования графа знаний. Это позволило существенно ускорить процесс и снизить требования к вычислительным ресурсам. Если в исходной реализации использовалось порядка 32 млрд параметров, то в RAGU их число удалось сократить почти на два порядка — не только без потери качества, но и с его заметным улучшением.

Помимо специалистов НГУ, в проекте участвовали представители других российских вузов, включая МГУ, Балтийский федеральный университет имени Иммануила Канта, Университет науки и технологий МИСИС, Дальневосточный федеральный университет и Университет ИТМО.

Проект RAGU стал победителем в номинации «Инновации в области искусственного интеллекта» конкурса «Код без границ». Всего в конкурсе приняли участие более 200 проектов.

RSS: Новости на портале Anti-Malware.ru