Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера рассказали о новом способе борьбы с галлюцинациями в больших языковых моделях. Эта проблема считается одной из самых серьёзных в сфере ИИ: модели могут выдавать правдоподобные, но полностью выдуманные ответы.

На конференции SIGIR 2025 исследователи Центра практического искусственного интеллекта Сбера представили метод, который позволяет повысить точность обнаружения таких «ложных» ответов почти на 30%.

Причём для обучения метамоделей им понадобилось всего 250 примеров — это в разы меньше, чем обычно требуется другим подходам.

Главное преимущество метода в том, что он помогает экономить ресурсы на разметку данных и делает RAG-системы (retrieval-augmented generation), на которых сейчас строятся многие мультиагентные решения, заметно надёжнее.

По словам Глеба Гусева, директора Центра практического ИИ, исследование показывает, что даже при небольшом объёме данных можно добиться высокой точности работы моделей.

Он подчеркнул, что новый подход снижает риски дезинформации и помогает повысить доверие к системам искусственного интеллекта.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В России запускают пилот по повышению кибербезопасности автотранспорта

Минпромторг РФ запустил эксперимент по созданию центра мониторинга киберугроз для автотранспорта и реагирования на атаки. Соответствующее уведомление уже разослано в отраслевые организации и в ИБ-компании.

В пилотном проекте, рассчитанном на девять месяцев, принимают участие Минтранс, ФСБ, ФСТЭК России, а также НАМИ, «Глонасс» и ИБ-вендоры.

Специализированная платформа обеспечения кибербезопасности будет создана на основе отраслевого центра компетенций НПП «Гамма» по ИБ в промышленности.

Список объектов для централизованного контроля и защиты в рамках эксперимента ограничен беспилотными грузовиками, электробусами, авто госслужащих и перевозкой опасных грузов.

В задачи специализированного SOC войдут сбор телематических данных о функционировании программного и аппаратного обеспечения, поиск уязвимостей в бортовых системах авто, проверка возможности несанкционированного вмешательства в работу транспортных средств, выявление источников угроз и разработка методов защиты.

По итогам пилота будет составлен список нормативных документов, требующих правок с учетом ИБ. Минтранс также собирается составить дорожную карту по киберзащите пассажирского и грузового транспорта.

Как выяснили журналисты, в настоящее время осуществляется подключение объектов мониторинга к платформе телематики. Масштабировать защиту от атак на все типы транспортных средств не планируется; физлицам – покупателям новых авто услуги оперативного кибербеза (VSOC) будут предоставляться по рыночным ценам.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru