Российские ИИ-модели отправят на проверку традиционных ценностей

Российские ИИ-модели отправят на проверку традиционных ценностей

Российские ИИ-модели отправят на проверку традиционных ценностей

Российские разработчики смогут передавать большие ИИ-модели в независимые испытательные лаборатории, которые проверят их на соответствие законодательству и традиционным духовно-нравственным ценностям. Возможную схему Минцифры обсуждает с бизнесом при подготовке подзаконных актов.

Проверка затронет не все представленные на рынке системы, а только модели, претендующие на статус национальных или суверенных, сообщают «Ведомости».

Такой статус откроет доступ к господдержке, государственным данным, закупкам и приоритетному внедрению в отдельных отраслях. Первопроходцами могут стать образование и госуслуги.

Разработчик должен будет самостоятельно протестировать модель по общей риск-ориентированной методике и предоставить описание архитектуры, механизмов фильтрации и другие документы.

Затем аккредитованная лаборатория проверит результаты, прогонит систему через специальные бенчмарки и попробует обойти её ограничения с помощью промпт-инъекций. Получится своеобразный духовно-нравственный пентест: ИИ будут провоцировать, а потом внимательно читать, что он наговорил.

Проводить экспертизу сможет не одна назначенная организация, а несколько лабораторий, прошедших аккредитацию. Они подготовят заключения, но окончательное решение о соответствии и присвоении статуса останется за Минцифры. Безопасность моделей для государственных систем отдельно оценят ФСБ и ФСТЭК России.

Перечень традиционных ценностей заново составлять не планируют: он уже закреплён президентским указом № 809. Сложнее будет превратить такие понятия, как справедливость, гражданственность и историческая память, в измеримые технические критерии.

Эксперты предупреждают, что оценочность требований может привести к избирательному применению правил. Поэтому рынку потребуются прозрачные тесты, воспроизводимые результаты, сроки действия заключений и переаттестация после обновления моделей.

В Минцифры подчёркивают, что пакет документов ещё согласовывается. Финальная конструкция проверки не утверждена.

В Москве робособак научат ловить нарушителей и делать им замечания

В конце августа в московском кластере «Ломоносов» пройдут демонстрационные испытания системы управления робособаками. Четвероногие машины смогут автономно патрулировать инфраструктурные объекты, фиксировать нарушения и общаться с людьми, сообщили в столичном департаменте предпринимательства и инновационного развития.

Ранее систему тестировали в Центре испытаний роботов Московского инновационного кластера в Сколково и пилотировали в РАНХиГС.

Оператор задаёт маршрут и отмечает контрольные точки на цифровой карте, после чего робот отправляется в самостоятельный обход. С помощью искусственного интеллекта и компьютерного зрения он объезжает препятствия, анализирует обстановку и в реальном времени передаёт сведения о происшествиях.

Робособака способна обнаружить человека в запрещённой зоне, заметить вандализм, граффити, курение, неправильную парковку и нарушения требований безопасности.

Каждый эпизод сопровождается фотографиями и видеозаписью, механический патрульный не только увидит, но и аккуратно подшьёт доказательства.

При встрече с нарушителем робот может подъехать, воспроизвести голосовое предупреждение или соединить человека с оператором по двусторонней аудиосвязи. Спорить с железной собакой, вероятно, будет особенно неловко.

Одна система позволяет одновременно управлять несколькими устройствами. В зависимости от модели они работают до пяти часов без подзарядки и проходят до 10 км. Приоритет при этом остаётся за ручным управлением: человек сможет вмешаться в действия автономного патруля.

RSS: Новости на портале Anti-Malware.ru