РКН прогнозирует диверсии в Сети и готовит закон об алгоритмах рекомендаций

РКН прогнозирует диверсии в Сети и готовит закон об алгоритмах рекомендаций

РКН прогнозирует диверсии в Сети и готовит закон об алгоритмах рекомендаций

Роскомнадзор занимается проработкой сценариев для предотвращения диверсий и психических провокаций в Сети, заявили в ведомстве. Регулятор подводит к закону о регулировании рекомендательных сервисов для соцсетей.

О потенциальных угрозах диверсий в интернете представитель Главного радиочастотного центра (подведомственен Роскомнадзору) рассказал сегодня на сессии Российского интернет-форума.

"На данный момент существуют прогнозы по дальнейшему использованию противником тактики диверсий, индивидуального террора и психических провокаций для подкрепления новых информационных кампаний, — приводит ТАСС цитату Кирилла Золотова.

По его словам, сейчас прорабатываются сценарии для предотвращения подобных инцидентов. Других подробностей чиновник не привел.

Сегодня же “Ведомости” написали о планах Роскомнадзора по регулированию рекомендательных сервисов.

В аналитической справке ГРЧЦ говорится, что алгоритмы интернет-рекомендаций “могут привести к политической поляризации общества, продвижению фейковых новостей и риторик ненависти”.

Сейчас в том или ином виде рекомендательные сервисы используют все крупнейшие интернет-компании. Основные российские разработчики – “Яндекс” и VK. Эти сервисы анализируют “цифровой след” пользователя и предлагают индивидуальный набор контента, рекламы или товаров.

“В основе рекомендательных алгоритмов лежит использование искусственного интеллекта (ИИ), будь то довольно простые модели логистической регрессии или наиболее продвинутые версии глубоких нейронных сетей”, — пишут авторы отчета.

В документе ИИ называют “ключевым компонентом популярных социальных сетей”.

По мнению специалистов ГРЧЦ, при распространении контента ИИ “часто отдает предпочтение спорной, разжигающей вражду и недостоверной информации, поскольку именно такой контент привлекает больше внимания пользователей и ведет к повышению вовлеченности и взаимодействия с платформой”.

В справке регулятор приводит статистику Facebook (соцсеть принадлежит Meta, признанной в России экстремистской организацией, ее деятельность запрещена). По статистике центра, 64% новых подписчиков экстремистских групп пришли в них через рекомендации.

Кроме того, алгоритмы способствуют созданию так называемых эхо-камер или “пузырей”. Рекомендательная система предлагает контент пользователям на основе схожести взглядов и интересов. Человек оказывается огражден от информации другого типа или от критической информации в отношении собственных взглядов.

Этими доводами Роскомнадзор подводит к необходимости принятия закона о регулировании таких сервисов.

По мнению регулятора, документ нужен для “защиты потребителей от непрозрачных алгоритмов отбора контента, способных искажать реальное положение дел и приводить к пугающим последствиям, вплоть до реального нанесения вреда здоровью и психике человека”.

Регулирование будет включать в себя возможность независимого аудита используемых алгоритмов, а пользователь должен дать согласие на обработку данных и иметь право его отозвать, добавили в ГРЧЦ.

Добавим, рекомендательные сервисы используют все основные социальные сети: Instagram (принадлежит Meta, признанной в России экстремистской организацией, ее деятельность запрещена), Twitter, Facebook (принадлежит Meta, признанной в России экстремистской организацией, ее деятельность запрещена), а также YouTube и китайский TikTok.

ScanFactory выходит на рынок ИИ-фаерволов с решением Prizma

ScanFactory представила новый продукт Prizma — решение для контроля и защиты корпоративной ИИ-инфраструктуры. Продукт позволяет компаниям безопасно использовать LLM и ИИ-агентов, контролируя данные, доступы, расходы и взаимодействие с внешними ИИ-сервисами.

Корпоративное использование искусственного интеллекта быстро растет: сотрудники подключают публичные LLM, команды внедряют ИИ-агентов и RAG-системы, а количество обращений к различным моделям увеличивается. Вместе с этим у компаний появляется новый класс рисков — от утечек конфиденциальных данных до неконтролируемого теневого AI.

Prizma работает как единая точка контроля между пользователями, корпоративными системами и ИИ-провайдерами. Решение анализирует запросы и ответы в реальном времени и позволяет централизованно управлять тем, как внутри компании используется искусственный интеллект.

Что умеет Prizma

Контролировать потребление токенов — учитывать использование моделей и расходы на ИИ у разных провайдеров из единой точки.

Защищать от AI-атак — выявлять и блокировать prompt injection и другие классы атак, включая угрозы из OWASP LLM Top 10.

Предотвращать утечки данных — находить и маскировать конфиденциальную информацию в запросах к ИИ и ответах моделей.

Автоматически блокировать опасные запросы на основе заданных политик безопасности.

Управлять ИИ-агентами с помощью ролевой модели и графа их взаимодействий.

Логировать и аудитировать обращения к ИИ, обеспечивая прозрачность использования моделей внутри компании.

Не только защита запросов

Отдельное внимание в Prizma уделено рискам, которые возникают при построении собственной ИИ-инфраструктуры.

Решение позволяет защищать RAG-системы, обнаруживая секреты и чувствительную информацию в используемых файлах, а также выявлять теневые AI — несанкционированное использование ИИ-сервисов внутри инфраструктуры компании.

Для критических сценариев предусмотрен kill switch на основе ролевой модели, позволяющий оперативно ограничить работу отдельных ИИ-агентов или цепочек взаимодействия.

Таким образом, Prizma формирует единый уровень безопасности между корпоративной инфраструктурой и ИИ — от публичных LLM до внутренних моделей, RAG-систем и автономных агентов.

С выходом Prizma ScanFactory расширяет направление кибербезопасности и выходит в новый для компании сегмент — защиту корпоративной ИИ-инфраструктуры.

Записаться на демонстрацию продукта и запросить сравнение по 83 пунктам можно по почте: info@sf-cloud.ru

Реклама, 18+. ООО «СканФэктори» ИНН 7727458406
ERID: 2Vfnxw2mxV1

RSS: Новости на портале Anti-Malware.ru