Российские ИИ-модели отправят на проверку традиционных ценностей

Российские ИИ-модели отправят на проверку традиционных ценностей

Российские ИИ-модели отправят на проверку традиционных ценностей

Российские разработчики смогут передавать большие ИИ-модели в независимые испытательные лаборатории, которые проверят их на соответствие законодательству и традиционным духовно-нравственным ценностям. Возможную схему Минцифры обсуждает с бизнесом при подготовке подзаконных актов.

Проверка затронет не все представленные на рынке системы, а только модели, претендующие на статус национальных или суверенных, сообщают «Ведомости».

Такой статус откроет доступ к господдержке, государственным данным, закупкам и приоритетному внедрению в отдельных отраслях. Первопроходцами могут стать образование и госуслуги.

Разработчик должен будет самостоятельно протестировать модель по общей риск-ориентированной методике и предоставить описание архитектуры, механизмов фильтрации и другие документы.

Затем аккредитованная лаборатория проверит результаты, прогонит систему через специальные бенчмарки и попробует обойти её ограничения с помощью промпт-инъекций. Получится своеобразный духовно-нравственный пентест: ИИ будут провоцировать, а потом внимательно читать, что он наговорил.

Проводить экспертизу сможет не одна назначенная организация, а несколько лабораторий, прошедших аккредитацию. Они подготовят заключения, но окончательное решение о соответствии и присвоении статуса останется за Минцифры. Безопасность моделей для государственных систем отдельно оценят ФСБ и ФСТЭК России.

Перечень традиционных ценностей заново составлять не планируют: он уже закреплён президентским указом № 809. Сложнее будет превратить такие понятия, как справедливость, гражданственность и историческая память, в измеримые технические критерии.

Эксперты предупреждают, что оценочность требований может привести к избирательному применению правил. Поэтому рынку потребуются прозрачные тесты, воспроизводимые результаты, сроки действия заключений и переаттестация после обновления моделей.

В Минцифры подчёркивают, что пакет документов ещё согласовывается. Финальная конструкция проверки не утверждена.

ScanFactory выходит на рынок ИИ-фаерволов с решением Prizma

ScanFactory представила новый продукт Prizma — решение для контроля и защиты корпоративной ИИ-инфраструктуры. Продукт позволяет компаниям безопасно использовать LLM и ИИ-агентов, контролируя данные, доступы, расходы и взаимодействие с внешними ИИ-сервисами.

Корпоративное использование искусственного интеллекта быстро растет: сотрудники подключают публичные LLM, команды внедряют ИИ-агентов и RAG-системы, а количество обращений к различным моделям увеличивается. Вместе с этим у компаний появляется новый класс рисков — от утечек конфиденциальных данных до неконтролируемого теневого AI.

Prizma работает как единая точка контроля между пользователями, корпоративными системами и ИИ-провайдерами. Решение анализирует запросы и ответы в реальном времени и позволяет централизованно управлять тем, как внутри компании используется искусственный интеллект.

Что умеет Prizma

Контролировать потребление токенов — учитывать использование моделей и расходы на ИИ у разных провайдеров из единой точки.

Защищать от AI-атак — выявлять и блокировать prompt injection и другие классы атак, включая угрозы из OWASP LLM Top 10.

Предотвращать утечки данных — находить и маскировать конфиденциальную информацию в запросах к ИИ и ответах моделей.

Автоматически блокировать опасные запросы на основе заданных политик безопасности.

Управлять ИИ-агентами с помощью ролевой модели и графа их взаимодействий.

Логировать и аудитировать обращения к ИИ, обеспечивая прозрачность использования моделей внутри компании.

Не только защита запросов

Отдельное внимание в Prizma уделено рискам, которые возникают при построении собственной ИИ-инфраструктуры.

Решение позволяет защищать RAG-системы, обнаруживая секреты и чувствительную информацию в используемых файлах, а также выявлять теневые AI — несанкционированное использование ИИ-сервисов внутри инфраструктуры компании.

Для критических сценариев предусмотрен kill switch на основе ролевой модели, позволяющий оперативно ограничить работу отдельных ИИ-агентов или цепочек взаимодействия.

Таким образом, Prizma формирует единый уровень безопасности между корпоративной инфраструктурой и ИИ — от публичных LLM до внутренних моделей, RAG-систем и автономных агентов.

С выходом Prizma ScanFactory расширяет направление кибербезопасности и выходит в новый для компании сегмент — защиту корпоративной ИИ-инфраструктуры.

Записаться на демонстрацию продукта и запросить сравнение по 83 пунктам можно по почте: info@sf-cloud.ru

Реклама, 18+. ООО «СканФэктори» ИНН 7727458406
ERID: 2Vfnxw2mxV1

RSS: Новости на портале Anti-Malware.ru