Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор в скором времени может запустить усовершенствованную систему поиска незаконного контента в Сети, в основу которой ляжет искусственный интеллект (ИИ). Система, получившая имя «Окулус», должна повысить эффективность обнаружения экстремистских и порнографических материалов в изображениях и видео.

Разработкой «Окулус» будет заниматься Главный радиочастотный центр (ГРЧЦ), который в настоящее время подведомственен РКН. Эксперты же опасаются, что введение систему в эксплуатацию может замедлить работу веб-ресурсов.

Согласно информации, которую сотрудники издания «КоммерсантЪ» нашли на портале госзакупок, «Окулус» планируют запустить в 2022 году. Стоимость опубликованного ГРЧЦ тендера на разработку технического задания составила 15 миллионов рублей.

Системе доверят задачу выявления следующего контента: пропаганда наркотиков, порнография, экстремистские материалы, призывы к самоубийству и массовым беспорядкам. Ранее этот поиск в изображениях и видеозаписях происходил вручную, а в следующем году этим уже будет заниматься «Окулус». Ожидается, что работы завершат до 17 декабря.

Аналитики считают, что контент в текстовом виде значительно уступает фото- и видеоматериалам по воздействию на сознание пользователей Сети. Поэтому «Окулус» будет решать проблему постинга противоправных изображений и видеозаписей, которые могут потенциально навредить подросткам.

Госорганам запретили запускать ведомственные ИТ-системы без проверки

Правительство утвердило правила создания и эксплуатации информационных систем госорганов, которые формально не относятся к государственным информационным системам. С 1 сентября 2026 года такие решения придётся учитывать, проверять по стандартам и по возможности собирать из уже одобренного отечественного ПО.

Все ведомственные не-ГИС должны регистрироваться во ФГИС координации информатизации.

Требования к ним установят стандарты Минцифры, которые будет утверждать президиум правительственной комиссии по цифровому развитию.

При создании систем госорганам предписано в первую очередь использовать программы и программно-аппаратные комплексы из национального фонда алгоритмов, реестра российского ПО или реестра решений стран ЕАЭС.

При наличии подходящего типового продукта его потребуется адаптировать под задачи ведомства, а не разрабатывать аналог с нуля.

Самостоятельная разработка допускается, если нужного решения в реестрах нет либо для соответствующего класса систем ещё не утверждён стандарт. Но сначала госорган должен подготовить технико-экономическое обоснование и согласовать его с Минцифры. Без положительного заключения начинать проект нельзя.

Готовые системы предстоит проверять на соответствие стандартам. Подходящие компоненты получат во ФГИС КИ специальную отметку, которая также появится в реестровых записях ПО.

Эксплуатация систем, не прошедших проверку, прямо запрещается. Новые требования реализуют положения закона № 568-ФЗ и вступают в силу 1 сентября. Официальный текст постановления.

RSS: Новости на портале Anti-Malware.ru