Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера нашли способ снизить галлюцинации ИИ почти на 30%

Учёные Сбера рассказали о новом способе борьбы с галлюцинациями в больших языковых моделях. Эта проблема считается одной из самых серьёзных в сфере ИИ: модели могут выдавать правдоподобные, но полностью выдуманные ответы.

На конференции SIGIR 2025 исследователи Центра практического искусственного интеллекта Сбера представили метод, который позволяет повысить точность обнаружения таких «ложных» ответов почти на 30%.

Причём для обучения метамоделей им понадобилось всего 250 примеров — это в разы меньше, чем обычно требуется другим подходам.

Главное преимущество метода в том, что он помогает экономить ресурсы на разметку данных и делает RAG-системы (retrieval-augmented generation), на которых сейчас строятся многие мультиагентные решения, заметно надёжнее.

По словам Глеба Гусева, директора Центра практического ИИ, исследование показывает, что даже при небольшом объёме данных можно добиться высокой точности работы моделей.

Он подчеркнул, что новый подход снижает риски дезинформации и помогает повысить доверие к системам искусственного интеллекта.

Помощь вузам обойдется российским ИТ-компаниям в 3% экономии на налогах

Минцифры РФ определилось с критериями оценки взаимодействия ИТ-отрасли с вузами, которое станет обязательным для аккредитованных компаний. Последние должны будут направлять на такие нужды 3% средств, сэкономленных на налогах и страховых взносах.

Согласно подготовленному проекту приказа, компании с годовой выручкой свыше 1 млрд руб. и штатом 100+ обяжут к 1 июня 2026 года заключить соглашения с профильными вузами о финансовой поддержке и помощи в подготовке кадров.

Неисполнение этого предписания грозит потерей ИТ-аккредитации, налоговых льгот и мобилизационной брони.

В соглашение о сотрудничестве в обязательном порядке должно быть включено соучастие в преподавательской работе и подготовке образовательных программ. По желанию стороны могут оговорить и другие меры поддержки — к примеру, возможность стажировки для студентов.

Не возбраняются также другие инициативы специалистов по ИТ — разработка профильных программ для школьников (5-11 классы), организация курсов повышения квалификации для учителей.

Опрошенные «Ведомостями» представители сферы образования отметили необходимость расширения составленного Минцифры списка мер поддержки. Так, можно было бы включить в него проведение совместных работ: преподавателям и студентам не хватает практических знаний / навыков, а сотрудники ИТ-компаний смогут повысить свой уровень как теоретики.

Кроме того, российские вузы испытывают потребность в образовательном контенте, целевых стипендиях для студентов, фондах для поощрения штатных преподавателей.

Комментаторы также отметили, что в помощи со стороны ИТ-отрасли нуждаются не только вузы, но и учреждения среднего профессионального образования (СПО), где все еще преобладает зарубежный софт. Выпускникам необходимо осваивать российские технологии, чтобы потом не переучиваться, устроившись на работу.

Экспертов в области ИТ можно было бы привлечь к проведению олимпиад и госэкзаменов, модернизации учебных лабораторий, разработке программ допобразования для преподавателей СПО.

RSS: Новости на портале Anti-Malware.ru