Сервис Darvvin от Infosecurity выявляет негатив в подростковой среде

Сервис Darvvin от Infosecurity выявляет негатив в подростковой среде

Сервис Darvvin от Infosecurity выявляет негатив в подростковой среде

За последнее десятилетие интернет стал неотъемлемой частью нашей жизни, причем с каждым годом интернет-аудитория стремительно молодеет. Согласно результатам исследования Минкомсвязи России, проведенного в 2019 году, дети начинают пользоваться интернетом в возрасте 4-5 лет, а к 11 годам доля интернет-пользователей среди них составляет 97%. Сейчас, из-за пандемии и массового перевода школьников на дистанционный режим обучения, количество детей школьного возраста, посещающих различные сайты и сообщества в Интернете, существенно возросло.

В этих условиях дети становятся крайне уязвимы к киберугрозам: злоумышленники, имея в арсенале навыки давления, манипуляции и другие психологические уловки, могут влиять на поведение подростков, подталкивая их к совершению преступлений.

Для противодействия и предотвращения вооруженных нападений на одноклассников и учителей, распространения и употребления наркотиков среди подростков, подстрекательств к суициду и призывов к агрессии посредством социальных сетей, «Инфосекьюрити» (входит в ГК «Softline») создала новую информационно-аналитическую систему «Darvvin».

«Darvvin» - сервис выявления социальных угроз в подростковой среде, который позволит распознавать на самых ранних стадиях негативные события и предотвращать их до наступления серьезных последствий.

На сегодняшний день в системе уже реализованы 6 модулей:

  • Модуль «Шутинг»: система выявляет группы, сообщества, форумы, посвященные тематике «Колумбайн» (нападений и расправ с одноклассниками), а также определяет активных участников-подростков таких сообществ;
  • Модуль «Суицидальные наклонности»: система «Darvvin» производит поиск интернет-ресурсов, связанных с суицидальной тематикой, провокаторов, подталкивающих школьников к совершению самоубийства, а также школьников, проявляющих интерес к теме суицида.
  • Модуль «Наркотики»: осуществляется поиск тематических групп, сообществ и подростков, публикующих соответствующие посты.
  • Модуль «Незаконные акции»: «Darvvin» выполняет поиск провокаторов, призывающих подростков к агрессии или участию в незаконных акциях, соответствующих групп и сообществ.
  • Модуль «Поборы»: система выявляет факты незаконных сборов денежных средств в сети Интернет с учащихся для нужд школы/класса/группы;
  • Модуль «Рейтинг»: на основании общего количества выявленных инцидентов, система формирует рейтинг учебных заведений.

Дополнительное преимущество «Darvvin» - это всесторонний мониторинг ситуаций. С одной стороны, система собирает информацию из широкого пула источников, популярных среди несовершеннолетних в том числе интернет-сайтов и социальных сетей. С другой стороны, система отслеживает десятки даркнет-форумов и закрытых чатов и более 196 тыс. Telegram-каналов, тем самым контролирует активности злоумышленников.

Используя уникальные алгоритмы, система автоматически отбирает сведения с высокой степенью релевантности и передает для дальнейшей обработки в аналитический центр «Инфосекьюрити», где им присваивается степень угрозы и определяется приоритетный порядок действий. После обработки события в аналитическом центре, заказчик получает уведомления обо всех выявленных и верифицированных событиях. По итогам отчетного периода формируется комплексный аналитический отчет.

Так, уже в результате тестового запуска системы «Darvvin» для одного из регионов РФ, за короткий срок было выявлено более 120 угроз, четверть из которых представители региона классифицировали как представляющие особую опасность. Таким образом, своевременное выявление и оповещение ответственных лиц позволило выиграть драгоценное время и спасти десятки жизней.

Система «Darvvin» работает в режиме 24/7 и предоставляется как готовый сервис по подписке, функционирующий на мощностях «Инфосекьюрити» и не требующий дополнительной закупки программных или аппаратных средств, найма персонала или интеграции в инфраструктуру заказчика.

Новая вектор атаки заставляет ИИ не замечать опасные команды на сайтах

Специалисты LayerX описали новую атаку, которая бьёт по самому неприятному месту современных ИИ-ассистентов — разрыву между тем, что видит браузер, и тем, что анализирует модель. В результате пользователь может видеть на странице вполне конкретную вредоносную команду, а ИИ при проверке будет считать, что всё безопасно.

Схема построена на довольно изящном трюке с рендерингом шрифтов. Исследователи использовали кастомные шрифты, подмену символов и CSS, чтобы спрятать в HTML один текст, а пользователю в браузере показать совсем другой.

Для человека на странице отображается команда, которую предлагают выполнить, а вот ИИ-ассистент при анализе HTML видит только безобидное содержимое.

Именно в этом и заключается главная проблема. Ассистент смотрит на структуру страницы как на текст, а браузер превращает её в визуальную картинку. Если атакующий аккуратно разводит эти два слоя, получается ситуация, в которой пользователь и ИИ буквально смотрят на разные версии одной и той же страницы.

 

В качестве демонстрации LayerX собрала демонстрационный эксплойт на веб-странице, которая обещает некий бонус для игры BioShock, если выполнить показанную на экране команду. Пользователь, естественно, может спросить у ИИ-ассистента, безопасно ли это. И вот тут начинается самое неприятное: модель анализирует «чистую» HTML-версию, не замечает опасную команду и успокаивает пользователя.

 

То есть атака работает не за счёт взлома браузера или уязвимости в системе, а через старую добрую социальную инженерию, просто усиленную особенностями работы ИИ. Человеку показывают одно, а ассистенту — другое. И если пользователь привык доверять ответу модели, риск становится вполне реальным.

По данным LayerX, ещё в декабре 2025 года техника срабатывала против целого набора популярных ассистентов, включая ChatGPT, Claude, Copilot, Gemini, Leo, Grok, Perplexity и ряд других сервисов. При этом исследователи утверждают, что Microsoft была единственной компанией, которая приняла отчёт всерьёз и полностью закрыла проблему у себя. Остальные в основном сочли риск выходящим за рамки, потому что атака всё же требует социальной инженерии.

RSS: Новости на портале Anti-Malware.ru