Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера рассказали о новом способе борьбы с галлюцинациями в больших языковых моделях. Эта проблема считается одной из самых серьёзных в сфере ИИ: модели могут выдавать правдоподобные, но полностью выдуманные ответы.

На конференции SIGIR 2025 исследователи Центра практического искусственного интеллекта Сбера представили метод, который позволяет повысить точность обнаружения таких «ложных» ответов почти на 30%.

Причём для обучения метамоделей им понадобилось всего 250 примеров — это в разы меньше, чем обычно требуется другим подходам.

Главное преимущество метода в том, что он помогает экономить ресурсы на разметку данных и делает RAG-системы (retrieval-augmented generation), на которых сейчас строятся многие мультиагентные решения, заметно надёжнее.

По словам Глеба Гусева, директора Центра практического ИИ, исследование показывает, что даже при небольшом объёме данных можно добиться высокой точности работы моделей.

Он подчеркнул, что новый подход снижает риски дезинформации и помогает повысить доверие к системам искусственного интеллекта.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Avanpost представила корпоративный центр сертификации Avanpost CA

Российская компания Avanpost сообщила о выходе на рынок нового корпоративного центра сертификации Avanpost CA. Решение предназначено для управления цифровыми сертификатами в гибридных ИТ-инфраструктурах и позиционируется как альтернатива Microsoft Certificate Authority.

Avanpost CA поддерживает работу с разными операционными системами и устройствами, включая Windows, Linux, macOS, мобильные платформы iOS и Android, а также сетевое оборудование Cisco и контейнерные платформы. Система соответствует международным стандартам PKI и X.509.

Среди возможностей продукта:

  • единый центр сертификации для различных корпоративных систем;
  • автоматизация выпуска и обновления сертификатов, включая миграцию с Microsoft CA и интеграцию с каталогом Avanpost DS;
  • поддержка протоколов MS-WSTEP, SCEP и OCSP;
  • автоматическая выдача сертификатов в Linux-домене (Avanpost DS);
  • разграничение прав доступа на основе LDAP/Kerberos и автоматический аудит операций;
  • хранение корневых центров сертификации в офлайне;
  • соответствие требованиям российского законодательства об импортозамещении;
  • поддержка кластеризации и различных СУБД, включая PostgreSQL и Postgres Pro.

Продукт интегрируется с решениями Avanpost DS и PKI, формируя единую платформу для автоматизации процессов PKI.

«Avanpost CA — это сердце цифровой безопасности для современных корпоративных инфраструктур, полноценная доверенная сторона, отвечающая потребностям настоящего и будущего. В связи с этим мы планируем дальнейшее развитие продукта в 2025–2026 годах, включая поддержку аппаратно-независимой защиты ключей HSM, сертификацию в ФСТЭК России, интеграцию с HashiCorp Vault, Kubernetes Secrets и DevOps-инструментами для расширения возможностей управления цифровыми сертификатами в современных ИТ-средах», — комментирует Евгений Галкин, директор по криптографии Avanpost.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru