DARPA запустила проект Cyber Genome

DARPA запустила проект Cyber Genome

...

Агентство перспективных оборонных разработок DARPA (США) начало работу над проектом Cyber Genome, в рамках которого планируется создать уникальный набор аналитических инструментов. Эти инструменты позволят определить первоисточник любого электронного материала, будь то текстовый документ или фрагмент компьютерного вируса.

Формально программой Cyber Genome предполагается сбор данных из самых разных систем, в том числе из традиционных компьютеров, КПК и/или распределенных информационных систем, из проводных и беспроводных сетей, а также с любых носителей. Собранные данные будут анализироваться по таким же схемам, как геном человека. Конечная цель проекта – связать любой цифровой "артефакт" с его автором. Иначе говоря, спецслужбы США должны получить возможность находить автора любого файла с помощью тех же алгоритмов и методик, которые используются для определения подозреваемых по фрагментам тканей, оставленных на месте преступления.

Таким образом, в будущем любой фрагмент программного кода или любой созданный вами документ в конце концов можно будет отследить и доказать, что их создали именно вы. Также может появиться инструмент для определения маршрута ваших творений – каким путем они попали в то место, где их обнаружили.

Отмечается, что в проекте Cyber Genome могут принимать участие только граждане США. Следовательно, остальной мир не сможет узнать о развитии программы, пока она не начнет давать первые результаты.

источник

Разработка новосибирских ученых снизит галлюцинации ИИ

В Новосибирском государственном университете разработали библиотеку, которая повышает точность и надёжность ответов нейросетей и помогает снизить количество «выдуманных» или заведомо недостоверных ответов — так называемых ИИ-галлюцинаций. Решение получило название RAGU (Retrieval-Augmented Graph Utility) и основано на использовании графов знаний, отражающих связи между различными элементами информации.

Такие графы помогают нейросетям лучше понимать контекст запросов и выявлять неочевидные зависимости. В рамках проекта они были интегрированы с большими языковыми моделями, что позволило повысить качество генерации ответов.

«Саму концепцию придумали не мы. Архитектура GraphRAG была предложена в статье Microsoft, опубликованной около года назад. Идея оказалась удачной, но мы увидели ряд недостатков — в частности, очень долгий процесс построения графа знаний и недетерминированный результат. Наш подход позволил ускорить работу и повысить её надёжность», — рассказал научный сотрудник лаборатории прикладных цифровых технологий Международного научно-образовательного математического центра НГУ Иван Бондаренко.

В отличие от оригинального подхода Microsoft, новосибирские исследователи применили многошаговый метод формирования графа знаний. Это позволило существенно ускорить процесс и снизить требования к вычислительным ресурсам. Если в исходной реализации использовалось порядка 32 млрд параметров, то в RAGU их число удалось сократить почти на два порядка — не только без потери качества, но и с его заметным улучшением.

Помимо специалистов НГУ, в проекте участвовали представители других российских вузов, включая МГУ, Балтийский федеральный университет имени Иммануила Канта, Университет науки и технологий МИСИС, Дальневосточный федеральный университет и Университет ИТМО.

Проект RAGU стал победителем в номинации «Инновации в области искусственного интеллекта» конкурса «Код без границ». Всего в конкурсе приняли участие более 200 проектов.

RSS: Новости на портале Anti-Malware.ru