Сервис Darvvin от Infosecurity выявляет негатив в подростковой среде

Сервис Darvvin от Infosecurity выявляет негатив в подростковой среде

Сервис Darvvin от Infosecurity выявляет негатив в подростковой среде

За последнее десятилетие интернет стал неотъемлемой частью нашей жизни, причем с каждым годом интернет-аудитория стремительно молодеет. Согласно результатам исследования Минкомсвязи России, проведенного в 2019 году, дети начинают пользоваться интернетом в возрасте 4-5 лет, а к 11 годам доля интернет-пользователей среди них составляет 97%. Сейчас, из-за пандемии и массового перевода школьников на дистанционный режим обучения, количество детей школьного возраста, посещающих различные сайты и сообщества в Интернете, существенно возросло.

В этих условиях дети становятся крайне уязвимы к киберугрозам: злоумышленники, имея в арсенале навыки давления, манипуляции и другие психологические уловки, могут влиять на поведение подростков, подталкивая их к совершению преступлений.

Для противодействия и предотвращения вооруженных нападений на одноклассников и учителей, распространения и употребления наркотиков среди подростков, подстрекательств к суициду и призывов к агрессии посредством социальных сетей, «Инфосекьюрити» (входит в ГК «Softline») создала новую информационно-аналитическую систему «Darvvin».

«Darvvin» - сервис выявления социальных угроз в подростковой среде, который позволит распознавать на самых ранних стадиях негативные события и предотвращать их до наступления серьезных последствий.

На сегодняшний день в системе уже реализованы 6 модулей:

  • Модуль «Шутинг»: система выявляет группы, сообщества, форумы, посвященные тематике «Колумбайн» (нападений и расправ с одноклассниками), а также определяет активных участников-подростков таких сообществ;
  • Модуль «Суицидальные наклонности»: система «Darvvin» производит поиск интернет-ресурсов, связанных с суицидальной тематикой, провокаторов, подталкивающих школьников к совершению самоубийства, а также школьников, проявляющих интерес к теме суицида.
  • Модуль «Наркотики»: осуществляется поиск тематических групп, сообществ и подростков, публикующих соответствующие посты.
  • Модуль «Незаконные акции»: «Darvvin» выполняет поиск провокаторов, призывающих подростков к агрессии или участию в незаконных акциях, соответствующих групп и сообществ.
  • Модуль «Поборы»: система выявляет факты незаконных сборов денежных средств в сети Интернет с учащихся для нужд школы/класса/группы;
  • Модуль «Рейтинг»: на основании общего количества выявленных инцидентов, система формирует рейтинг учебных заведений.

Дополнительное преимущество «Darvvin» - это всесторонний мониторинг ситуаций. С одной стороны, система собирает информацию из широкого пула источников, популярных среди несовершеннолетних в том числе интернет-сайтов и социальных сетей. С другой стороны, система отслеживает десятки даркнет-форумов и закрытых чатов и более 196 тыс. Telegram-каналов, тем самым контролирует активности злоумышленников.

Используя уникальные алгоритмы, система автоматически отбирает сведения с высокой степенью релевантности и передает для дальнейшей обработки в аналитический центр «Инфосекьюрити», где им присваивается степень угрозы и определяется приоритетный порядок действий. После обработки события в аналитическом центре, заказчик получает уведомления обо всех выявленных и верифицированных событиях. По итогам отчетного периода формируется комплексный аналитический отчет.

Так, уже в результате тестового запуска системы «Darvvin» для одного из регионов РФ, за короткий срок было выявлено более 120 угроз, четверть из которых представители региона классифицировали как представляющие особую опасность. Таким образом, своевременное выявление и оповещение ответственных лиц позволило выиграть драгоценное время и спасти десятки жизней.

Система «Darvvin» работает в режиме 24/7 и предоставляется как готовый сервис по подписке, функционирующий на мощностях «Инфосекьюрити» и не требующий дополнительной закупки программных или аппаратных средств, найма персонала или интеграции в инфраструктуру заказчика.

Claude освободил 700 ГБ, удалив домашнюю папку разработчика

Разработчик Себастьен Гиймо поручил ИИ-агенту Claude написать скрипт для очистки временных файлов. Бот справился слишком эффективно: удалил домашний каталог пользователя вместе с 700 ГБ данных и результатами недельной работы, но предусмотрительно оставил папку /tmp, ради которой всё и затевалось.

Гиймо регулярно запускает ИИ-агентов, которые оставляют после себя множество временных файлов.

Он попросил модель Claude Fable создать отдельную песочницу для каждого агента в /tmp и очищать её после завершения работы, не затрагивая используемые данные.

Первая версия скрипта показалась разработчику слишком сложной. Из-за наличия команд безвозвратного удаления Claude запустил дополнительную проверку безопасности. Система Anthropic сочла задачу рискованной и автоматически понизила модель сначала до Opus 5, а затем до Opus 4.8.


Новая модель написала тест, который сравнивал цели удаления с /tmp и домашним каталогом пользователя. Обе директории были правильно признаны опасными. А затем начался этап очистки тестовых данных, и Claude повторно использовал ту же переменную, в которой находился путь к домашней папке.

Гиймо остановил процесс, но слишком поздно: агент успел удалить 700 ГБ. Большую часть информации разработчик восстановил из Git, конфигурации Nix, журналов сессий и других источников. Однако недельная работа всё же пострадала.

Разработчик предполагает, что автоматический переход на менее сильную модель мог повысить риск ошибки. Более производительная Fable 5, возможно, заметила бы конфликт переменных.

RSS: Новости на портале Anti-Malware.ru