Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера рассказали о новом способе борьбы с галлюцинациями в больших языковых моделях. Эта проблема считается одной из самых серьёзных в сфере ИИ: модели могут выдавать правдоподобные, но полностью выдуманные ответы.

На конференции SIGIR 2025 исследователи Центра практического искусственного интеллекта Сбера представили метод, который позволяет повысить точность обнаружения таких «ложных» ответов почти на 30%.

Причём для обучения метамоделей им понадобилось всего 250 примеров — это в разы меньше, чем обычно требуется другим подходам.

Главное преимущество метода в том, что он помогает экономить ресурсы на разметку данных и делает RAG-системы (retrieval-augmented generation), на которых сейчас строятся многие мультиагентные решения, заметно надёжнее.

По словам Глеба Гусева, директора Центра практического ИИ, исследование показывает, что даже при небольшом объёме данных можно добиться высокой точности работы моделей.

Он подчеркнул, что новый подход снижает риски дезинформации и помогает повысить доверие к системам искусственного интеллекта.

ViPNet EDI Soap Gate 3 получил сертификат ФСБ: теперь с новыми платформами

«ИнфоТеКС» получил сертификат ФСБ России на программно-аппаратный комплекс ViPNet EDI Soap Gate 3 версии 3.6. Документ подтверждает, что решение соответствует требованиям к средствам криптографической защиты информации и электронной подписи класса КС3. Сертификат распространяется на исполнения SG1000 Q2 и SG2000 Q2.

Комплексы можно использовать для защиты каналов связи по протоколу TLS ГОСТ.

В их состав также разрешено включать программный модуль доверенной загрузки ViPNet SafeBoot 3 — чтобы оборудование не стартовало с чем-то посторонним и потенциально опасным.

Сертификат № СФ/124-5567 выдан 11 июля 2026 года и будет действовать до 1 июля 2029-го.

ViPNet EDI Soap Gate 3, также известный как «ViPNet ЭДО Шлюз Безопасности 3», предназначен для защищённого взаимодействия с государственными информационными системами — в том числе СМЭВ3, ЕСИА и ЦПГ.

Решение включено в методические рекомендации Минцифры как типовой вариант для работы с ЕСИА. Оно соответствует требованиям КС3 и поддерживает протокол OpenID Connect.

В сухом остатке: шлюз получил официальное криптографическое «можно», обзавёлся поддержкой новых аппаратных платформ и готов защищать обмен данными с госсистемами как минимум до середины 2029 года.

RSS: Новости на портале Anti-Malware.ru