Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера рассказали о новом способе борьбы с галлюцинациями в больших языковых моделях. Эта проблема считается одной из самых серьёзных в сфере ИИ: модели могут выдавать правдоподобные, но полностью выдуманные ответы.

На конференции SIGIR 2025 исследователи Центра практического искусственного интеллекта Сбера представили метод, который позволяет повысить точность обнаружения таких «ложных» ответов почти на 30%.

Причём для обучения метамоделей им понадобилось всего 250 примеров — это в разы меньше, чем обычно требуется другим подходам.

Главное преимущество метода в том, что он помогает экономить ресурсы на разметку данных и делает RAG-системы (retrieval-augmented generation), на которых сейчас строятся многие мультиагентные решения, заметно надёжнее.

По словам Глеба Гусева, директора Центра практического ИИ, исследование показывает, что даже при небольшом объёме данных можно добиться высокой точности работы моделей.

Он подчеркнул, что новый подход снижает риски дезинформации и помогает повысить доверие к системам искусственного интеллекта.

Робот-полицейский за $67 тысяч не поймал никого и ушёл на пенсию

В американском городе Дублин (штат Калифорния) завершился необычный эксперимент с роботом-полицейским DubBot. Менее чем через год службы его отправили в отставку, признав проект не слишком полезным. Робот начал патрулировать многоуровневую парковку Rock Cress летом 2025 года.

Машина была оснащена камерами кругового обзора, кнопкой экстренного вызова и системой двусторонней связи с диспетчерами.

По задумке властей, DubBot должен был помогать полиции, повышать безопасность в общественных местах и отпугивать потенциальных нарушителей.

Но результаты оказались, мягко говоря, скромными. Как сообщили в полиции Дублина, за всё время работы робот не помог раскрыть ни одного преступления, не привёл к выписке ни одного штрафа и вообще не обнаружил ни одного инцидента, который потребовал бы вмешательства полиции.

 

В итоге 12 мая программу решили закрыть, а самого робота вернуть компании Knightscope, которая его разработала.

Стоимость эксперимента составила 67,5 тысячи долларов. Изначально город планировал потратить почти 240 тысяч долларов на двух роботов сроком на два года. Однако второй робот так и не вышел на службу: разработчик не успел его подготовить, а в выбранном парке не оказалось необходимой инфраструктуры.

В мэрии подчёркивают, что проект задумывался как тест новых технологий в реальных условиях. Никаких дополнительных показателей эффективности власти даже не собирали; главной задачей было просто понять, есть ли смысл в дальнейшем использовании подобных систем.

RSS: Новости на портале Anti-Malware.ru