Роскомнадзор будет вести реестр запрещенных сайтов с помощью ИИ

Роскомнадзор будет вести реестр запрещенных сайтов с помощью ИИ

Роскомнадзор будет вести реестр запрещенных сайтов с помощью ИИ

Роскомнадзор собирается привлечь ИИ к поиску кандидатов на занесение в Единый реестр запрещенных ресурсов. По плану, умный помощник будет интегрирован в существующую систему веб-мониторинга и анализа контента уже в этом году.

Как выяснил «Ъ», сейчас выявление нарушений российского закона об информации (№149-ФЗ от 27.07.2006) в интернете происходит по заданным алгоритмам обработки текстов. Внедрение ИИ-технологий, как надеется регулятор, позволит ускорить процесс, повысить его эффективность и сократить издержки.

В 2023 году РКН выявлял противозаконный веб-контент через три часа после его публикации; в 2024 году интервал планируется сократить до двух часов, в 2026-м — до одного часа. Блокировка ресурса, попавшего в реестр запрещенных, требует больше времени — в 2022 году на нее уходило до 50 дней.

Использование ИИ также поможет улучшить качество анализа: подобный помощник способен разобраться в сложном контексте, найти скрытые связи и закономерности. Долю ложноположительных срабатываний планируется за два года снизить до 10% (в прошлом году составила 20%).

В 2026 году РКН намеревается таким же образом озадачить ИИ ведением реестра операторов персональных данных, однако опрошенные «Ъ» эксперты сомневаются в успехе. Автомат может выявить оператора ПДн только по открытой информации, да и то лишь в тех случаях, когда ее легко вытащить из документа и подвергнуть анализу.

Не исключено, что с этой целью умному помощнику придется регистрироваться на сайтах, но админы такие действия обычно блокируют.

Эксперты: за год число вредоносных opensource-компонентов возросло в 11 раз

В 2025 году в компании CodeScoring зарегистрировали 457 тыс. вредоносных библиотек с открытым исходным кодом — в 11 раз больше, чем в предыдущем году. Зафиксировано также 14 тыс. новых уязвимостей в таких компонентах.

По словам специалистов, сохраняют актуальность и более ранние неприятные находки — к примеру, RCE-уязвимость Log4Shell, которая все еще присутствует в 15 тыс. сторонних библиотек. Публикация подобных пакетов грозит атаками на цепочку поставок.

В уходящем году также зафиксировано появление новой, еще более опасной угрозы — самоходного червя Shai Hulud, способного создавать новые репозитории и воровать конфиденциальные данные с CI/CD-платформ.

В связи с бурным ростом популярности ИИ объявился новый вектор атаки — slopsquatting: злоумышленники начали использовать склонность больших языковых моделей (БЯМ, LLM) к галлюцинациям для внедрения в легитимные проекты небезопасного кода.

Из-за этой особенности умный помощник по разработке может ошибиться и вместо легитимной библиотеки предложить для использования вредоносную со схожим названием. По данным CodeScoring, в России ИИ-ассистентов применяют 30% разработчиков, и потенциально опасные галлюцинации происходят у LLM в 20% случаев.

Чтобы защититься от атак на цепочку поставок, эксперты советуют вести тщательный учет компонентов, используемых для сборки софта, при установке библиотек выставлять запрет на исполнение скриптов, а также следовать стандарту ГОСТ Р 56939-2024 и активнее внедрять технологии безопасной разработки.

RSS: Новости на портале Anti-Malware.ru