Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера рассказали о новом способе борьбы с галлюцинациями в больших языковых моделях. Эта проблема считается одной из самых серьёзных в сфере ИИ: модели могут выдавать правдоподобные, но полностью выдуманные ответы.

На конференции SIGIR 2025 исследователи Центра практического искусственного интеллекта Сбера представили метод, который позволяет повысить точность обнаружения таких «ложных» ответов почти на 30%.

Причём для обучения метамоделей им понадобилось всего 250 примеров — это в разы меньше, чем обычно требуется другим подходам.

Главное преимущество метода в том, что он помогает экономить ресурсы на разметку данных и делает RAG-системы (retrieval-augmented generation), на которых сейчас строятся многие мультиагентные решения, заметно надёжнее.

По словам Глеба Гусева, директора Центра практического ИИ, исследование показывает, что даже при небольшом объёме данных можно добиться высокой точности работы моделей.

Он подчеркнул, что новый подход снижает риски дезинформации и помогает повысить доверие к системам искусственного интеллекта.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Google начнёт скрывать Android-приложения, сильно разряжающие батарею

Google начнёт принимать меры против Android-приложений в Google Play, которые слишком активно работают в фоне и заметно разряжают аккумулятор. Если приложение превысит установленный порог «плохого поведения», оно может получить специальную пометку в магазине и потерять видимость в рекомендациях.

У разработчиков есть время до 1 марта 2026 года, чтобы привести свой софт в порядок. Именно к этому сроку вступит в силу новый ключевой показатель Android Vitals — метрика «избыточные частичные wake lock».

Она фиксирует, сколько времени приложение удерживает устройство от перехода в режим сна, когда экран выключен.

Google тестировала этот алгоритм с апреля, специалисты Samsung также были привлечены к разработке. Корпорация обещает целую серию метрик, призванных дать разработчикам более глубокое понимание того, как их приложения расходуют ресурсы.

Что именно будут измерять:

  • частичные wake lock, поддерживающие активность устройства при выключенном экране;
  • суммарное время таких блокировок в рамках одной пользовательской сессии;
  • общую статистику за 28 дней.

Подсчёт ведётся только для не связанных с системой wake lock, не относящихся к аудиовоспроизведению или явно инициированным действиям пользователя.

Нарушением считается ситуация, когда приложение удерживает устройство более двух часов в течение 24 часов в рамках одной пользовательской сессии. Если такое происходит более чем в 5% сессий за 28 дней, приложение попадает в зону риска.

В этом случае Google предупредит разработчика через Android Vitals и может пометить приложение как «быстро разряжающее батарею», что снизит его видимость в Google Play Store.

 

Google подчёркивает: цель метрики — улучшить качество приложений и повысить энергоэффективность смартфонов. Это не инструмент против шпионского софта или вредоносных приложений, хотя такие угрозы действительно нередко используют wake lock для постоянной передачи данных.

«Первостепенная задача — повысить качество работы приложений и улучшить пользовательский опыт», — пояснили в компании.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru