​​РКН запустил систему автоматического поиска запрещенного контента Окулус

​​РКН запустил систему автоматического поиска запрещенного контента Окулус

​​РКН запустил систему автоматического поиска запрещенного контента Окулус

Искать запрещённый контент в Сети теперь будет искусственный интеллект. Роскомнадзор запустил автоматическую систему “Окулус”. Основная тематика — экстремизм, наркотики, митинги, пропаганда ЛГБТ и военные фейки. К 2025 году “Окулус” научат детально анализировать действия людей в интернете.

О запуске “Окулуса” изданию “Ведомости” рассказал представитель Главного радиочастотного центра (ФГУП ГРЧЦ). Центр подчиняется Роскомнадзору.

Про планы поставить такую систему говорили еще в сентябре 2021-го. Тогда ГРЧЦ опубликовал тендер на разработку технического задания. Речь шла о сумме в 15 млн рублей. В итоге разработчиком “Окулуса” стала ИТ-компания Execution RDC. Ее представитель отказался от комментариев, сославшись на коммерческие отношения с заказчиком.

По словам представителя ГРЧЦ, в декабре прошлого года систему протестировали, а в январе уже началась интеграция “Окулуса” с другими инструментами мониторинга Роскомнадзора. Подробностей результатов тестирования, а также первых итогов ее работы представитель ГРЧЦ не привел.

“Информационная система “Окулус” уже запущена и выполняет возложенные на нее задачи в полном объеме: выявляет нарушения законодательства в изображениях и видеоматериалах”, — заявили в ГРЧЦ.

“Система распознает изображения и символы, противоправные сцены и действия, анализирует текст в фото- и видеоматериалах. “Окулус” автоматически обнаруживает такие правонарушения, как экстремистская тематика, призывы к массовым незаконным мероприятиям, суициду, пронаркотический контент, пропаганда ЛГБТ и др.”, — пояснили в центре.

До внедрения системы специалисты ГРЧЦ анализировали запрещенный контент “преимущественно вручную”. В среднем операторы обрабатывали 106 изображений и 101 видео в день.

“Окулус” возьмет на себя 200 тыс. изображений в сутки (около трех секунд на одно изображение).

“Окулус” работает как классификатор с уже заданным набором источников информации, в которых анализируется контент на предмет соблюдения или несоблюдения требований закона, объяснила “Ведомостям” гендиректор компании “Социальная лаборатория” Наталия Тылевич.

Это значит, что “Окулус” может анализировать конкретные страницы сайтов или же паблики и профили в соцсетях. Программа не занимается сбором данных, она их классифицирует.

К 2025 году систему планируется усовершенствовать.

“Прорабатывается возможность добавления новых классов и типов нарушений, а также функции определения поз людей и их действий”, – говорит представитель ГРЧЦ.

“Система будет выявлять запрещенные материалы “на нескольких кадрах на видеофрагментах, в сложных рукописных текстах и рисованном контенте”, — добавил он.

Риски использования “Окулуса” касаются того, насколько корректно или некорректно осуществляется классификация изображений и видео, и насколько корректно они будут в дальнейшем интерпретированы в связке с другими компонентами системы и человеком.

“Вопрос интерпретации и настроек будет определять масштаб таких погрешностей, как будет классифицироваться спорный контент – считать ли его запрещенным или нет”, — предупреждает Тылевич. — Но так или иначе это будут риски не столько самого решения, сколько риски уже дальнейшей работы с полученными в результате его работы данными”.

В России впервые оштрафовали за оскорбление в личном голосовом сообщении

Один из районных судов Москвы оштрафовал жительницу столицы за оскорбление, высказанное в голосовом сообщении. Это стало первым зафиксированным случаем, когда наказание было вынесено за распространение оскорблений в личной переписке, а не в публичном чате. Суд квалифицировал действия ответчицы по статье 5.61 КоАП РФ «Оскорбление» и назначил штраф в размере 3 тыс. рублей.

О решении суда по делу об оскорблении в голосовом сообщении, отправленном через мессенджер, 12 января сообщило РИА Новости. Поводом для разбирательства стало обращение потерпевшей в прокуратуру. В числе доказательств к жалобе был приложен, в частности, «акт прослушивания аудиозаписи».

Ранее аналогичные решения уже выносились, однако они касались голосовых сообщений с оскорблениями, размещённых в публичных чатах. Так, житель Марий Эл был оштрафован на 5 тыс. рублей за оскорбление матери одноклассника своего сына в классном чате. При этом, как обратили внимание «Известия», суд квалифицировал высказывание как публичное оскорбление и назначил более строгое наказание.

В то же время в судебной практике встречались и случаи успешного обжалования подобных решений. Так, Советский районный суд Красноярска отменил постановление мирового судьи по делу об оскорблении в дачном чате. Основанием стало отсутствие лингвистической экспертизы: мировой судья исходил исключительно из «восприятия потерпевшего».

«При проведении экспертизы для лингвиста нет разницы между устной и письменной речью в рамках таких дел. Фразы и смайлы всегда анализируются в контексте: учитывается ситуация общения, участники, их социальный статус и роли. Например, при оскорблении представителя власти, полицейского или судьи может сразу наступать уголовная ответственность», — отметила старший эксперт-психолог и лингвист Центра специальных исследований и экспертиз Полина Курданова. По её словам, экспертизы назначаются судом практически всегда, если возникают сомнения в квалификации высказываний.

Управляющий партнёр AVG Legal Алексей Гавришев в комментарии для «Известий» отметил, что в самом решении суда нет принципиальной новизны. «Новизна здесь скорее в общественном восприятии, чем в праве. Оскорбление в мессенджере давно квалифицируется так же, как и в офлайне: это всё то же унижение чести и достоинства, выраженное в неприличной форме. Просто канал коммуникации стал цифровым, а судебная практика по таким делам существует уже не первый год», — подчеркнул он.

По мнению Гавришева, подобная практика будет только расширяться, поскольку люди всё чаще «переносят конфликты в цифровую среду, а суды вынуждены идти за ними». В целом, как отмечают опрошенные «Известиями» эксперты, оскорбления в онлайне встречаются даже чаще, чем в офлайне. Это подтверждают и данные исследования Института статистических исследований и экономики знаний НИУ ВШЭ за 2023 год: с различными формами онлайн-агрессии сталкивались 29% пользователей социальных сетей.

Основатель юридического бутика ContractCreation by Kostromin Евгений Костромин назвал это дело показательным прежде всего из-за используемого доказательства — акта прослушивания голосового сообщения. При этом он напомнил, что на специфику рассмотрения дел об оскорблениях в онлайн-пространстве Президиум Верховного суда обращал внимание ещё в 2021 году.

RSS: Новости на портале Anti-Malware.ru