Российские разработчики смогут передавать большие ИИ-модели в независимые испытательные лаборатории, которые проверят их на соответствие законодательству и традиционным духовно-нравственным ценностям. Возможную схему Минцифры обсуждает с бизнесом при подготовке подзаконных актов.
Проверка затронет не все представленные на рынке системы, а только модели, претендующие на статус национальных или суверенных, сообщают «Ведомости».
Такой статус откроет доступ к господдержке, государственным данным, закупкам и приоритетному внедрению в отдельных отраслях. Первопроходцами могут стать образование и госуслуги.
Разработчик должен будет самостоятельно протестировать модель по общей риск-ориентированной методике и предоставить описание архитектуры, механизмов фильтрации и другие документы.
Затем аккредитованная лаборатория проверит результаты, прогонит систему через специальные бенчмарки и попробует обойти её ограничения с помощью промпт-инъекций. Получится своеобразный духовно-нравственный пентест: ИИ будут провоцировать, а потом внимательно читать, что он наговорил.
Проводить экспертизу сможет не одна назначенная организация, а несколько лабораторий, прошедших аккредитацию. Они подготовят заключения, но окончательное решение о соответствии и присвоении статуса останется за Минцифры. Безопасность моделей для государственных систем отдельно оценят ФСБ и ФСТЭК России.
Перечень традиционных ценностей заново составлять не планируют: он уже закреплён президентским указом № 809. Сложнее будет превратить такие понятия, как справедливость, гражданственность и историческая память, в измеримые технические критерии.
Эксперты предупреждают, что оценочность требований может привести к избирательному применению правил. Поэтому рынку потребуются прозрачные тесты, воспроизводимые результаты, сроки действия заключений и переаттестация после обновления моделей.
В Минцифры подчёркивают, что пакет документов ещё согласовывается. Финальная конструкция проверки не утверждена.
