Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера рассказали о новом способе борьбы с галлюцинациями в больших языковых моделях. Эта проблема считается одной из самых серьёзных в сфере ИИ: модели могут выдавать правдоподобные, но полностью выдуманные ответы.

На конференции SIGIR 2025 исследователи Центра практического искусственного интеллекта Сбера представили метод, который позволяет повысить точность обнаружения таких «ложных» ответов почти на 30%.

Причём для обучения метамоделей им понадобилось всего 250 примеров — это в разы меньше, чем обычно требуется другим подходам.

Главное преимущество метода в том, что он помогает экономить ресурсы на разметку данных и делает RAG-системы (retrieval-augmented generation), на которых сейчас строятся многие мультиагентные решения, заметно надёжнее.

По словам Глеба Гусева, директора Центра практического ИИ, исследование показывает, что даже при небольшом объёме данных можно добиться высокой точности работы моделей.

Он подчеркнул, что новый подход снижает риски дезинформации и помогает повысить доверие к системам искусственного интеллекта.

Банк России определил порядок возврата сомнительных переводов

Чтобы вернуть средства, поступившие от мошенников или дропов, теперь достаточно подать заявление в свой банк — любым удобным способом: при личном визите в офис, через мобильное приложение или по телефону. Новый порядок Банка России призван упростить взаимодействие с гражданами, которые оказались в базе данных о мошеннических операциях из-за участия в сомнительных схемах.

Как сообщил регулятор, подробный алгоритм действий по возврату средств изложен в рекомендациях, направленных кредитным организациям.

После получения заявления банк обязан вернуть средства отправителю. Получив уведомление о возврате, Банк России рассмотрит вопрос об исключении информации о человеке из базы данных о мошеннических операциях.

Регулятор будет контролировать исполнение этих рекомендаций. При этом гражданам настоятельно советуют не принимать переводы от неизвестных лиц.

Как предупреждает МВД, схемы с якобы ошибочными переводами используют не только дропы, но и обычные мошенники, чья цель — хищение средств. В таких случаях «возвращённая» сумма может фактически уйти злоумышленнику, а сообщение о первоначальном переводе нередко оказывается фейковым.

RSS: Новости на портале Anti-Malware.ru