Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор в скором времени может запустить усовершенствованную систему поиска незаконного контента в Сети, в основу которой ляжет искусственный интеллект (ИИ). Система, получившая имя «Окулус», должна повысить эффективность обнаружения экстремистских и порнографических материалов в изображениях и видео.

Разработкой «Окулус» будет заниматься Главный радиочастотный центр (ГРЧЦ), который в настоящее время подведомственен РКН. Эксперты же опасаются, что введение систему в эксплуатацию может замедлить работу веб-ресурсов.

Согласно информации, которую сотрудники издания «КоммерсантЪ» нашли на портале госзакупок, «Окулус» планируют запустить в 2022 году. Стоимость опубликованного ГРЧЦ тендера на разработку технического задания составила 15 миллионов рублей.

Системе доверят задачу выявления следующего контента: пропаганда наркотиков, порнография, экстремистские материалы, призывы к самоубийству и массовым беспорядкам. Ранее этот поиск в изображениях и видеозаписях происходил вручную, а в следующем году этим уже будет заниматься «Окулус». Ожидается, что работы завершат до 17 декабря.

Аналитики считают, что контент в текстовом виде значительно уступает фото- и видеоматериалам по воздействию на сознание пользователей Сети. Поэтому «Окулус» будет решать проблему постинга противоправных изображений и видеозаписей, которые могут потенциально навредить подросткам.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

СёрчИнформ КИБ теперь умеет распознавать утечки через QR-коды

Система контроля утечек данных «СёрчИнформ КИБ» научилась автоматически считывать текст, зашитый в QR-коды. Это нужно для того, чтобы находить попытки обхода политик безопасности, когда конфиденциальную информацию маскируют в графическом виде.

Теперь DLP-система распознаёт всё, что скрыто внутри QR — будь то ссылка, сообщение или кусок текста.

Анализ проводится автоматически, как для новых файлов, так и для уже переданных — например, по почте или мессенджерам. Причём QR-код можно вставить куда угодно: в документ, изображение или даже в слайд — система его всё равно найдёт и расшифрует.

По словам аналитиков, такой подход помогает выявить нестандартные попытки слива информации. Были случаи, когда инсайдеры прятали текст в QR-коды, вставляли их в документы и пытались таким образом передать данные наружу. Теперь система не просто фиксирует факт использования QR-кодов, но и показывает их содержимое.

Безопасники могут просматривать извлечённый текст вместе с остальной частью документа, искать по нему вручную или настроить автоматическое выявление инцидентов. Триггером может стать сам факт наличия QR-кода или наличие определённых ключевых слов в его содержимом.

Кроме того, «СёрчИнформ КИБ» продолжает выявлять другие нетипичные способы утечек — например, фото экрана на смартфон, скрытые слои в документах или черновики в почте.

Если система фиксирует что-то подозрительное, она не только уведомляет, но и может сразу среагировать — например, заблокировать передачу файла или завершить сессию пользователя, у которого замечена опасная активность.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru