Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера рассказали о новом способе борьбы с галлюцинациями в больших языковых моделях. Эта проблема считается одной из самых серьёзных в сфере ИИ: модели могут выдавать правдоподобные, но полностью выдуманные ответы.

На конференции SIGIR 2025 исследователи Центра практического искусственного интеллекта Сбера представили метод, который позволяет повысить точность обнаружения таких «ложных» ответов почти на 30%.

Причём для обучения метамоделей им понадобилось всего 250 примеров — это в разы меньше, чем обычно требуется другим подходам.

Главное преимущество метода в том, что он помогает экономить ресурсы на разметку данных и делает RAG-системы (retrieval-augmented generation), на которых сейчас строятся многие мультиагентные решения, заметно надёжнее.

По словам Глеба Гусева, директора Центра практического ИИ, исследование показывает, что даже при небольшом объёме данных можно добиться высокой точности работы моделей.

Он подчеркнул, что новый подход снижает риски дезинформации и помогает повысить доверие к системам искусственного интеллекта.

Госслужащие Великобритании играли в GTA Online за счёт налогоплательщиков

Британские чиновники играли в GTA Online за счёт налогоплательщиков, но ради общения с гражданами. Пока одни проводят опросы и собирают статистику, госслужащие Туманного Альбиона решили пойти другим путём — отправиться в GTA Online.

Как пишет Telegraph, сотрудники экспериментального подразделения Policy Lab при Министерстве образования Великобритании использовали онлайн-режим Grand Theft Auto для общения с гражданами и проведения своеобразных фокус-групп.

Проект стартовал ещё в конце 2024 года. Его цель звучала серьёзно: помочь чиновникам лучше понять жизненный опыт людей и создать для участников эмоционально безопасное пространство.

Правда, площадкой для этого почему-то стала игра, где можно ограбить ювелирный магазин, взорвать бизнесмена или подвозить проституток клиентам.

 

Во время эксперимента чиновники наблюдали за игроками, общались с ними и вместе выполняли различные миссии. По мнению организаторов, такой формат помогал людям чувствовать себя свободнее и откровеннее рассказывать о своих проблемах.

В отчёте также говорится, что виртуальные встречи оказались особенно полезны для жителей удалённых регионов. Некоторые участники даже получили опыт, недоступный им в реальной жизни — например, успешное управление собственным бизнесом. Правда, речь идёт о бизнесе внутри GTA.

 

За проектом стоит подразделение Policy Lab, которое занимается поиском нестандартных подходов к формированию государственной политики. Ранее эта структура уже организовывала для чиновников семинары по лепке из глины и завязыванию узлов, а также приглашала художников рисовать получателей пособий и потребителей запрещённых веществ для демонстрации их общей человечности.

 

Однако не все оценили креативный подход.

Источник Telegraph в британском правительстве заявил, что подобные эксперименты выглядят сомнительно с точки зрения расходования денег налогоплательщиков. По его словам, министры не поддерживали такие проекты и считают, что у государства есть более важные задачи, чем исследования в виртуальном Лос-Сантосе.

RSS: Новости на портале Anti-Malware.ru