Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера рассказали о новом способе борьбы с галлюцинациями в больших языковых моделях. Эта проблема считается одной из самых серьёзных в сфере ИИ: модели могут выдавать правдоподобные, но полностью выдуманные ответы.

На конференции SIGIR 2025 исследователи Центра практического искусственного интеллекта Сбера представили метод, который позволяет повысить точность обнаружения таких «ложных» ответов почти на 30%.

Причём для обучения метамоделей им понадобилось всего 250 примеров — это в разы меньше, чем обычно требуется другим подходам.

Главное преимущество метода в том, что он помогает экономить ресурсы на разметку данных и делает RAG-системы (retrieval-augmented generation), на которых сейчас строятся многие мультиагентные решения, заметно надёжнее.

По словам Глеба Гусева, директора Центра практического ИИ, исследование показывает, что даже при небольшом объёме данных можно добиться высокой точности работы моделей.

Он подчеркнул, что новый подход снижает риски дезинформации и помогает повысить доверие к системам искусственного интеллекта.

Apple закрыла 194 уязвимости в macOS и iOS

Apple выпустила iOS 26.6 и iPadOS 26.6, а вместе с ними — внушительный набор патчей. В мобильных системах компания закрыла 78 уязвимостей, которым соответствуют 87 уникальных номеров CVE. Ни одну из них, по данным Apple, злоумышленники пока не успели активно использовать. Но набор возможностей у багов был почти флагманский.

Одна из уязвимостей позволяла приложению получить права root, другая — выполнить произвольный код на уровне ядра.

Ошибки в Game Center и библиотеке libc помогали вредоносным приложениям выбраться из песочницы, а проблема в CloudAttestation — обойти проверку цифровой подписи кода.

Не отставала и обработка файлов. Специально подготовленные изображения и документы могли привести к выполнению произвольного кода через ImageIO и SceneKit.

Отдельная ошибка позволяла приложению добавлять контакты без разрешения пользователя. А при наличии физического доступа к iPhone конфиденциальные данные можно было подсмотреть через функцию «Повтор экрана iPhone».

Больше десятка исправлений досталось ядру системы. Уязвимости позволяли повреждать и читать память, обходить сетевые фильтры или просто отправлять устройство в неожиданный нокаут.

WebKit тоже хорошенько прошлись заплатками. Баги в браузерном движке могли раскрыть содержимое памяти, историю посещённых ссылок, нарушить изоляцию iframe, помочь приложению читать чужие файлы или обрушить Safari. Ещё одна уязвимость в Wi-Fi позволяла находящемуся поблизости атакующему повредить память процесса.

На Mac-устройствах масштаб уборки оказался ещё серьёзнее: в macOS Tahoe 26.6 закрыли 155 уникальных CVE. Обновления watchOS, tvOS и visionOS также получили исправления. Всего в свежих версиях систем Apple устранено 194 уникальные уязвимости без учёта повторов между платформами.

RSS: Новости на портале Anti-Malware.ru