Российские ИИ-модели отправят на проверку традиционных ценностей

Российские ИИ-модели отправят на проверку традиционных ценностей

Российские ИИ-модели отправят на проверку традиционных ценностей

Российские разработчики смогут передавать большие ИИ-модели в независимые испытательные лаборатории, которые проверят их на соответствие законодательству и традиционным духовно-нравственным ценностям. Возможную схему Минцифры обсуждает с бизнесом при подготовке подзаконных актов.

Проверка затронет не все представленные на рынке системы, а только модели, претендующие на статус национальных или суверенных, сообщают «Ведомости».

Такой статус откроет доступ к господдержке, государственным данным, закупкам и приоритетному внедрению в отдельных отраслях. Первопроходцами могут стать образование и госуслуги.

Разработчик должен будет самостоятельно протестировать модель по общей риск-ориентированной методике и предоставить описание архитектуры, механизмов фильтрации и другие документы.

Затем аккредитованная лаборатория проверит результаты, прогонит систему через специальные бенчмарки и попробует обойти её ограничения с помощью промпт-инъекций. Получится своеобразный духовно-нравственный пентест: ИИ будут провоцировать, а потом внимательно читать, что он наговорил.

Проводить экспертизу сможет не одна назначенная организация, а несколько лабораторий, прошедших аккредитацию. Они подготовят заключения, но окончательное решение о соответствии и присвоении статуса останется за Минцифры. Безопасность моделей для государственных систем отдельно оценят ФСБ и ФСТЭК России.

Перечень традиционных ценностей заново составлять не планируют: он уже закреплён президентским указом № 809. Сложнее будет превратить такие понятия, как справедливость, гражданственность и историческая память, в измеримые технические критерии.

Эксперты предупреждают, что оценочность требований может привести к избирательному применению правил. Поэтому рынку потребуются прозрачные тесты, воспроизводимые результаты, сроки действия заключений и переаттестация после обновления моделей.

В Минцифры подчёркивают, что пакет документов ещё согласовывается. Финальная конструкция проверки не утверждена.

600 млн на кибербезопасность: ФРИИ и Metascan запускают акселератор

Фонд развития интернет-инициатив и компания Metascan осенью запустят акселератор для российских стартапов в области информационной безопасности. В программу отберут до 20 компаний, а до конца 2026 года организаторы рассчитывают заключить до семи инвестиционных сделок.

Акселератор станет первым проектом совместного фонда ФРИИ и Metascan объёмом 600 млн рублей. Партнёры вложили в него поровну. Стартапы смогут получить от 5 млн до 100 млн рублей.

Одна сделка уже закрыта: 40 млн рублей направили разработчику платформы для обучения сотрудников ИБ. На момент инвестирования выручка компании составляла 1,5 млн рублей. Венчурная математика сурова, но любит перспективу больше текущей бухгалтерии.

Программа начнётся 1 октября и продлится два месяца. Участникам потребуется работающий продукт не ниже стадии MVP, а также первые клиенты, пилотные проекты или выручка. Приоритет получат решения для управления уязвимостями, защиты веб-приложений и API, автоматизации ИБ-процессов и применения искусственного интеллекта.

По оценке экспертов, в России работает более 200 зрелых ИБ-стартапов с годовой выручкой до 1 млрд рублей. Их доля среди отечественных компаний отрасли может составлять от 17 до 22%.

Инвестиции им нужны не только для разработки. Проверка гипотез, создание отдела продаж, пилоты у крупных заказчиков, лицензирование и сертификация могут потребовать 50–100 млн рублей. Особенно дорогим билетом на рынок остаётся сертификат ФСТЭК, без которого сложно работать с государственными структурами и объектами критической информационной инфраструктуры.

Акселератор должен дать участникам доступ к экспертам, корпоративным заказчикам и площадкам для пилотирования. Потому что придумать очередной ИБ-продукт сегодня можно довольно быстро. Доказать крупному клиенту, что стартап не исчезнет вместе с его данными после первого обновления, — задача уже совсем другого уровня.

RSS: Новости на портале Anti-Malware.ru