Сервис Darvvin от Infosecurity выявляет негатив в подростковой среде

Сервис Darvvin от Infosecurity выявляет негатив в подростковой среде

Сервис Darvvin от Infosecurity выявляет негатив в подростковой среде

За последнее десятилетие интернет стал неотъемлемой частью нашей жизни, причем с каждым годом интернет-аудитория стремительно молодеет. Согласно результатам исследования Минкомсвязи России, проведенного в 2019 году, дети начинают пользоваться интернетом в возрасте 4-5 лет, а к 11 годам доля интернет-пользователей среди них составляет 97%. Сейчас, из-за пандемии и массового перевода школьников на дистанционный режим обучения, количество детей школьного возраста, посещающих различные сайты и сообщества в Интернете, существенно возросло.

В этих условиях дети становятся крайне уязвимы к киберугрозам: злоумышленники, имея в арсенале навыки давления, манипуляции и другие психологические уловки, могут влиять на поведение подростков, подталкивая их к совершению преступлений.

Для противодействия и предотвращения вооруженных нападений на одноклассников и учителей, распространения и употребления наркотиков среди подростков, подстрекательств к суициду и призывов к агрессии посредством социальных сетей, «Инфосекьюрити» (входит в ГК «Softline») создала новую информационно-аналитическую систему «Darvvin».

«Darvvin» - сервис выявления социальных угроз в подростковой среде, который позволит распознавать на самых ранних стадиях негативные события и предотвращать их до наступления серьезных последствий.

На сегодняшний день в системе уже реализованы 6 модулей:

  • Модуль «Шутинг»: система выявляет группы, сообщества, форумы, посвященные тематике «Колумбайн» (нападений и расправ с одноклассниками), а также определяет активных участников-подростков таких сообществ;
  • Модуль «Суицидальные наклонности»: система «Darvvin» производит поиск интернет-ресурсов, связанных с суицидальной тематикой, провокаторов, подталкивающих школьников к совершению самоубийства, а также школьников, проявляющих интерес к теме суицида.
  • Модуль «Наркотики»: осуществляется поиск тематических групп, сообществ и подростков, публикующих соответствующие посты.
  • Модуль «Незаконные акции»: «Darvvin» выполняет поиск провокаторов, призывающих подростков к агрессии или участию в незаконных акциях, соответствующих групп и сообществ.
  • Модуль «Поборы»: система выявляет факты незаконных сборов денежных средств в сети Интернет с учащихся для нужд школы/класса/группы;
  • Модуль «Рейтинг»: на основании общего количества выявленных инцидентов, система формирует рейтинг учебных заведений.

Дополнительное преимущество «Darvvin» - это всесторонний мониторинг ситуаций. С одной стороны, система собирает информацию из широкого пула источников, популярных среди несовершеннолетних в том числе интернет-сайтов и социальных сетей. С другой стороны, система отслеживает десятки даркнет-форумов и закрытых чатов и более 196 тыс. Telegram-каналов, тем самым контролирует активности злоумышленников.

Используя уникальные алгоритмы, система автоматически отбирает сведения с высокой степенью релевантности и передает для дальнейшей обработки в аналитический центр «Инфосекьюрити», где им присваивается степень угрозы и определяется приоритетный порядок действий. После обработки события в аналитическом центре, заказчик получает уведомления обо всех выявленных и верифицированных событиях. По итогам отчетного периода формируется комплексный аналитический отчет.

Так, уже в результате тестового запуска системы «Darvvin» для одного из регионов РФ, за короткий срок было выявлено более 120 угроз, четверть из которых представители региона классифицировали как представляющие особую опасность. Таким образом, своевременное выявление и оповещение ответственных лиц позволило выиграть драгоценное время и спасти десятки жизней.

Система «Darvvin» работает в режиме 24/7 и предоставляется как готовый сервис по подписке, функционирующий на мощностях «Инфосекьюрити» и не требующий дополнительной закупки программных или аппаратных средств, найма персонала или интеграции в инфраструктуру заказчика.

ИИ находит ошибки быстрее, чем их могут исправлять

Многие команды разработчиков опенсорс-проектов столкнулись с потоком сообщений об ошибках и уязвимостях, которые выявляют ИИ-модели. Для многих проектов, особенно небольших, это стало серьёзной проблемой: устранять такие находки по мере их поступления они попросту не успевают. В результате ситуация начинает нести заметные риски для безопасности.

О проблеме сообщило агентство Bloomberg. Издание приводит слова Дэниела Стенберга из проекта cURL: только за 2025 год команда получила 181 сообщение об ошибках и уязвимостях — больше, чем за 2023 и 2024 годы вместе взятые.

По словам специалиста, рост числа багрепортов напрямую связан с распространением ИИ-моделей. Как отметил Стенберг, ситуация продолжает ухудшаться. С начала 2026 года команда проекта уже получила 87 сообщений об ошибках, а по итогам года их число может приблизиться к 330.

Рост активности связывают с появлением новой ИИ-модели Mythos от Anthropic. Она позволяет находить проблемный код быстрее, чем предыдущие поколения таких систем, не говоря уже о людях, которые проводят аудит вручную или с помощью традиционных инструментов.

Многие другие проекты, столкнувшись с валом отчётов об ошибках, сгенерированных с помощью ИИ, вообще прекратили их приём. Разработчики сравнивают этот поток с DDoS-атакой, называя его «пугающим» и крайне сложным для обработки.

Понимая возможные риски, связанные с тем, что новая модель сможет находить уязвимости быстрее, чем разработчики будут успевать их устранять, Anthropic не стала выпускать Mythos в открытый доступ. Вместо этого компания ограничила доступ к ней, предоставив его только ключевым организациям, включая CrowdStrike и Linux Foundation.

Как подчёркивает Bloomberg, вся индустрия во многом зависит от результатов работы проектов с открытым исходным кодом, которыми нередко занимаются небольшие команды с ограниченными ресурсами. Ситуацию дополнительно осложняет наличие большого объёма устаревшего кода, который может быть использован во вредоносных целях.

Показательный пример — история с WannaCry: авторы этого шифровальщика использовали устаревший драйвер Windows для распространения зловреда. При этом удалить такой компонент не всегда возможно без риска нарушить работу критически важных функций системы.

RSS: Новости на портале Anti-Malware.ru