Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор готовится запустить ИИ-систему поиска запрещённого контента

Роскомнадзор в скором времени может запустить усовершенствованную систему поиска незаконного контента в Сети, в основу которой ляжет искусственный интеллект (ИИ). Система, получившая имя «Окулус», должна повысить эффективность обнаружения экстремистских и порнографических материалов в изображениях и видео.

Разработкой «Окулус» будет заниматься Главный радиочастотный центр (ГРЧЦ), который в настоящее время подведомственен РКН. Эксперты же опасаются, что введение систему в эксплуатацию может замедлить работу веб-ресурсов.

Согласно информации, которую сотрудники издания «КоммерсантЪ» нашли на портале госзакупок, «Окулус» планируют запустить в 2022 году. Стоимость опубликованного ГРЧЦ тендера на разработку технического задания составила 15 миллионов рублей.

Системе доверят задачу выявления следующего контента: пропаганда наркотиков, порнография, экстремистские материалы, призывы к самоубийству и массовым беспорядкам. Ранее этот поиск в изображениях и видеозаписях происходил вручную, а в следующем году этим уже будет заниматься «Окулус». Ожидается, что работы завершат до 17 декабря.

Аналитики считают, что контент в текстовом виде значительно уступает фото- и видеоматериалам по воздействию на сознание пользователей Сети. Поэтому «Окулус» будет решать проблему постинга противоправных изображений и видеозаписей, которые могут потенциально навредить подросткам.

BI.ZONE Mail Security научили подозревать запароленные архивы и спам-клонов

Компания BI.ZONE выпустила Mail Security 3.0 с новыми механизмами обнаружения почтовых угроз и функциями для администраторов. Система стала внимательнее относиться к защищённым паролем архивам, проверять подлинность отправителей и находить массовые рассылки, в которых мошенники слегка меняют текст ради обхода фильтров.

Если содержимое запароленного архива, включая вложенный, невозможно распаковать, система теперь может начислить письму дополнительные баллы риска.

Сам архив при этом не объявляется вредоносным автоматически, но перестаёт пользоваться дипломатической неприкосновенностью только потому, что его содержимое закрыто на замок.

Другой новый метод сравнивает тексты сообщений и выявляет серии почти одинаковых писем. Так BI.ZONE рассчитывает обнаруживать спам-кампании, где злоумышленники переставляют несколько слов и надеются, что фильтр ничего не заметит.

В правилах доставки теперь можно учитывать результаты SPF- и DKIM-проверок. Это помогает отличать легитимных отправителей от тех, кто лишь надел знакомое имя и пришёл за учётными данными. По статистике BI.ZONE, в первом полугодии 2026 года на фишинг пришлось 90% нелегитимного почтового трафика.

Защиту административных аккаунтов усилили механизмом против автоматического перебора паролей. После заданного количества неудачных попыток входа пользователю придётся пройти CAPTCHA.

Администраторам разрешили массово включать, отключать и удалять правила, скачивать быстрые правила группой и выполнять операции сразу над несколькими письмами. В обновлённом журнале сведения о сообщении выводятся в боковой панели, а новый раздел «События» предупреждает о важных изменениях и скором окончании лицензии.

Журнал действий пользователей можно передавать во внешние системы мониторинга и SIEM по Syslog.

RSS: Новости на портале Anti-Malware.ru