Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор в скором времени может запустить усовершенствованную систему поиска незаконного контента в Сети, в основу которой ляжет искусственный интеллект (ИИ). Система, получившая имя «Окулус», должна повысить эффективность обнаружения экстремистских и порнографических материалов в изображениях и видео.

Разработкой «Окулус» будет заниматься Главный радиочастотный центр (ГРЧЦ), который в настоящее время подведомственен РКН. Эксперты же опасаются, что введение систему в эксплуатацию может замедлить работу веб-ресурсов.

Согласно информации, которую сотрудники издания «КоммерсантЪ» нашли на портале госзакупок, «Окулус» планируют запустить в 2022 году. Стоимость опубликованного ГРЧЦ тендера на разработку технического задания составила 15 миллионов рублей.

Системе доверят задачу выявления следующего контента: пропаганда наркотиков, порнография, экстремистские материалы, призывы к самоубийству и массовым беспорядкам. Ранее этот поиск в изображениях и видеозаписях происходил вручную, а в следующем году этим уже будет заниматься «Окулус». Ожидается, что работы завершат до 17 декабря.

Аналитики считают, что контент в текстовом виде значительно уступает фото- и видеоматериалам по воздействию на сознание пользователей Сети. Поэтому «Окулус» будет решать проблему постинга противоправных изображений и видеозаписей, которые могут потенциально навредить подросткам.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

OpenAI отключила функцию, из-за которой чаты ChatGPT попадали в поиск

Если вбить в Google или Bing ссылку вроде chatgpt.com/share, можно было найти чужие диалоги с ChatGPT — от обсуждений ремонта ванной до странных шуток про микроволновку и сатану. Кто-то просил переписать резюме, кто-то — советы по кулинарии или астрофизике, а кто-то вёл по-настоящему кринжовые разговоры.

Фишка в том, что такие чаты попадали в поиск только если человек сам делился ссылкой — нужно было нажать кнопку «Поделиться» и затем «Создать ссылку».

При этом сервис показывал, что имя и личные настройки остаются скрытыми. Но если включить опцию «Сделать доступным для поиска», такой чат могли найти и другие.

Проблема в том, что пользователи не всегда понимали, что их чат может реально оказаться в поисковике. Так, например, в одном из диалогов были указаны детали, по которым легко находился LinkedIn-аккаунт пользователя — не самая приятная находка, особенно если чат был не самым лестным.

OpenAI уже отреагировала: вечером 31 июля компания заявила, что отключила эксперимент с доступностью чатов для поисковых систем. По словам представителей OpenAI, возможность сделать ссылку общедоступной «создавала слишком много рисков того, что люди случайно поделятся тем, чего не хотели показывать».

В компании подчёркивают: по умолчанию ни один чат не становится публичным. Поделиться им можно только вручную, осознанно. Но даже при этом поисковые системы всё равно могут индексировать такие страницы, если их явно не скрыть.

Google, в свою очередь, напомнила: он не контролирует, какие страницы появляются в интернете — это зависит от самих владельцев контента. Так, если вы открываете документ на Google Drive для всех по ссылке и где-то размещаете эту ссылку, он может попасть в поиск.

Сама идея сделать чаты более доступными для обмена — понятна. Но на практике она обернулась тем, что пользователи начали случайно выкладывать в интернет свои, казалось бы, личные разговоры. Эксперимент закрыт, и, по всей видимости, к нему не вернутся.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru