ИИ научился вычислять потенциальных керченских стрелков

ИИ научился вычислять потенциальных керченских стрелков

ИИ научился вычислять потенциальных керченских стрелков

Разработки российских специалистов уже сейчас могут выявлять потенциально опасных для общества лиц по их поведению в интернете, заявляет директор по инновациям IT-кластера Физтехпарк в Долгопрудном Сергей Ручьев.

В частности, такие задачи может решать нейросеть, разрабатываемая в содружестве с экспертами платформы “Умная страна” на базе Центра Нейроинноваций. Нейросеть уже научилась не просто отслеживать опасный контент в интернете и соцсетях, но и людей, которые попадают под его влияние.

Подобные заключения делаются на основе целого ряда анализируемых параметров, таких как вовлеченность, просмотры определенного контента и время проводимое за этим, перепосты, комментарии и т.п.

Кроме того, базовый алгоритм унифицированного массива данных может анализировать и показатель уровня жизнестойкости подростка (hardiness) - ключевой параметр определения потенциальных серийных убийц, садистов и самоубийц.

Низкие и критически низкие показатели жизнестойкости до сих пор были для клиницистов и высокопрофессиональных психологов сигналом к опасному и неизбежному эмоциональному выпаду (взрыву).

Сложность определения предельно низких колебаний hardiness в скрытом характере переживаний, как это было с 18-летним Владиславом Росляковым, совершившим массовое убийство учащихся Керченского политехнического колледжа.

«В случае «керченского стрелка», он, несомненно, был бы выявлен и определенным образом маркирован нейросетью. Но на сегодняшний день проблема заключается в том, что подобными системами пока  никто из серьезных структур не интересуется», — объясняет Сергей Ручьев.

Разработка новосибирских ученых снизит галлюцинации ИИ

В Новосибирском государственном университете разработали библиотеку, которая повышает точность и надёжность ответов нейросетей и помогает снизить количество «выдуманных» или заведомо недостоверных ответов — так называемых ИИ-галлюцинаций. Решение получило название RAGU (Retrieval-Augmented Graph Utility) и основано на использовании графов знаний, отражающих связи между различными элементами информации.

Такие графы помогают нейросетям лучше понимать контекст запросов и выявлять неочевидные зависимости. В рамках проекта они были интегрированы с большими языковыми моделями, что позволило повысить качество генерации ответов.

«Саму концепцию придумали не мы. Архитектура GraphRAG была предложена в статье Microsoft, опубликованной около года назад. Идея оказалась удачной, но мы увидели ряд недостатков — в частности, очень долгий процесс построения графа знаний и недетерминированный результат. Наш подход позволил ускорить работу и повысить её надёжность», — рассказал научный сотрудник лаборатории прикладных цифровых технологий Международного научно-образовательного математического центра НГУ Иван Бондаренко.

В отличие от оригинального подхода Microsoft, новосибирские исследователи применили многошаговый метод формирования графа знаний. Это позволило существенно ускорить процесс и снизить требования к вычислительным ресурсам. Если в исходной реализации использовалось порядка 32 млрд параметров, то в RAGU их число удалось сократить почти на два порядка — не только без потери качества, но и с его заметным улучшением.

Помимо специалистов НГУ, в проекте участвовали представители других российских вузов, включая МГУ, Балтийский федеральный университет имени Иммануила Канта, Университет науки и технологий МИСИС, Дальневосточный федеральный университет и Университет ИТМО.

Проект RAGU стал победителем в номинации «Инновации в области искусственного интеллекта» конкурса «Код без границ». Всего в конкурсе приняли участие более 200 проектов.

RSS: Новости на портале Anti-Malware.ru