alamor

Сравнение скорости реагирования вирлабов

В этой теме 35 сообщений

Идея теста навеяна этой темой. Хочется предложить тест на скорость добавлением вирлабом детекта и заодно если это возможно в рамках же этого теста проверить скорость добавления лечения. Так же при тестирование обязательно отдельным пунктом отмечать уведомляет ли вирлаб о добавление детекта. Уверен, что у АМ уже есть опыт проведения подобных тестов, но листать целиком раздел поленился и нашёл пока только тему: Сравнение скорости реагирования вирлабов на новые угрозы.

В моём представления для проведения теста нужно:

1) Взять обычные win32 зловреды (либо сбивается детект с уже существующих вирусов, либо создаются тестовые вирусы).

2) Рассылаются всем вендорам только по почте (если у этого вендера нет эмейла для отправки сэмплов, то через форму загрузки на сайте).

3) Добавление детекта и его отсутствие проверяется сервисом VirusTotal и локально установленными антивирусами (на случай если на VT не обновлены базы или сигнатурный детект ещё не добавили, но файл начинает подозреваться данными из облака).

Проверять наличие детекта предлагаю прямо перед отправкой вендорам, через 1, 3, 6, 12, 24 часа после отправки сэмпла.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Идея теста хорошая, но стоит сразу оговориться, что правильнее говорить не о скорости реагирования вирлама, а о скорости реакции на новые угрозы. Ведь в большинстве случаев детект может добавляться автоматически без вовлечения кого-то из специалистов вирлаба. Т.е. чтобы детект был добавлен совсем не обязательно специально об этом писать в вирлаб и прикладывать к письму сампл. Они могут сами его найти и добавить, зачастую даже быстрее, чем получат письмо.

Основная проблема теста - где взять абсолютно новые зловреды, которые ни кем еще не детектятся?

Можно от этого жесткого требования отступить и искать новые зловреды для конкретного антивируса. Но в этом случае будет не понятно, добавление детекта - это реакция на обращение или это реакция на что-то другое? Например, детект может быть сворован у кого-то из других антивирусов и его добавление может быть никак не связано с обращением в вирлаб.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Идея теста хорошая, но стоит сразу оговориться, что правильнее говорить не о скорости реагирования вирлама, а о скорости реакции на новые угрозы. Ведь в большинстве случаев детект может добавляться автоматически без вовлечения кого-то из специалистов вирлаба. Т.е. чтобы детект был добавлен совсем не обязательно специально об этом писать в вирлаб и прикладывать к письму сампл. Они могут сами его найти и добавить, зачастую даже быстрее, чем получат письмо.

Основная проблема теста - где взять абсолютно новые зловреды, которые ни кем еще не детектятся?

Можно от этого жесткого требования отступить и искать новые зловреды для конкретного антивируса. Но в этом случае будет не понятно, добавление детекта - это реакция на обращение или это реакция на что-то другое? Например, детект может быть сворован у кого-то из других антивирусов и его добавление может быть никак не связано с обращением в вирлаб.

Лет 13 назад вирмейкеры проводили подобны тест. Написали новый довольно сложный полиморф и разослали в вирлабы. Из половины пришел ответ, что это не вирус :-) Половина добавила с разной скоростью. Результат был описан вроде как в журнале 29А

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Лет 13 назад вирмейкеры проводили подобны тест.

"Однако за время пути собачка могла подрасти." :) То, что было 13 лет назад, сейчас уже поросло мхом. Да и вряд ли АМ будет писать вредоносный код, это несколько вне рамок текущего законодательства РФ.

  • Upvote 5

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

А что если взять известного трояна. Сбить детект при помощи изменения пары байт или перепаковать, а затем разослать? Для большинства это собьет детект и троян будет как бы новый :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

> Сбить детект при помощи изменения пары байт или перепаковать, а затем разослать?

Тогда файл:

1) Либо быстро будет обработан роботом, который найдет похожие сэмплы в коллекции

2) Либо отправится в /dev/null дальний конец очереди обработки. Потому что облако заявит, что такой файл существует в единственном экземпляре, и у клиентов никогда не встречался (это скорее всего бинарный мусор).

В любом случае до живого аналитика такой перепаковыш скорее всего не дойдет, пока у него не поднимется приоритет тем или иным образом (появится у пользователей, повторно придет из других важных источников, и т.д.).

Т.е. таким образом будет тестироваться агрессивность робота, а не наличие/работа вирлаба :-)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
"Однако за время пути собачка могла подрасти." :) То, что было 13 лет назад, сейчас уже поросло мхом. Да и вряд ли АМ будет писать вредоносный код, это несколько вне рамок текущего законодательства РФ.

Ну, Илья, я не говорил про писать :-) Есть же и другие варианты, за примерами из жизни журналистов ходить далеко не придется

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Лично я полагаю, что стоит последить за малварьными линками и сайтами, там вредоносы постоянно обновляются. Засечь время T0, когда с веба начнут раздавать новую модификацию бинарника и затем отслеживать (видимо, через VirusTotal?) время, за которое каждый вирлаб накатит детект. Никакого более релевантного способа не вижу, честно говоря.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

А ничего что 99.9% файлов вендоры получают не от юзеров по почте, а из других источников ?

Таким образом предлагаемый тест не имеет ничего общего с "скоростью реагирования вирлабов" на угрозы.

Вариант Рабиновича и то более релевантен, хотя насколько глупо проверять наличие детекта по вирустоталу - уже сказано и доказано миллион раз.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Засечь время T0, когда с веба начнут раздавать новую модификацию бинарника и затем отслеживать (видимо, через VirusTotal?) время, за которое каждый вирлаб накатит детект.
время публикации ссылки не равно времени рассылки по вирлабам.
А ничего что 99.9% файлов вендоры получают не от юзеров по почте, а из других источников ?

A. а что предлагаете вы ? Где в противном случае гарантия, что это сэмпл не был отослал в какой-то вирлаб как раз этим другим каналом ? Имхо в другом случае никак нельзя гарантировать, что изначально приоритет обработки у всех будет одинаковый. Ещё раз напомню, что в таких условиях будут все вирлабы и уверен, что это не помешает некоторым оперативно отреагировать.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
хотя насколько глупо проверять наличие детекта по вирустоталу - уже сказано и доказано миллион раз.

Либо VT, либо поднимать аналог VT с использованием сканеров в режиме запуска с параметрами (то есть, VT, но самодельный).

время публикации ссылки не равно времени рассылки по вирлабам.

Время публикации можно принять равным времени начала инфицирования пользовательских машин именно данным образцом. А вот время реагирования вирлаба и есть тот параметр, который необходимо замерить. А засекать именно время реагирования вирлаба на присланный или снятый с машины-обманки семпл- ну, пользователю это до лампочки, ему интересно время существования "окна заражения".

  • Upvote 5

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

А потом вам вендоры скажут:

- а плевать, что мы файл долго детектили сигнатурами, зато у нас сайт с которого вы его взяли - давно забанен был

- а плевать, что мы файл долго детектили сигнатурами, зато у нас эксплоит через который он ставился - давно детектится

- а плевать, что мы файл долго детектили сигнатурами, зато у нас он поведенческим блокиратором отсекался после запуска

- а плевать, что мы файл долго детектили сигнатурами, зато у нас n...n100

ну вы поняли, да.

Таким образом вам придется взять 20 машин, с 20 разными антивирусами, успешно одновременно заразиться на каждой из них (прям вот заразиться!) и потом сидеть и ждать - кто вас первый вылечит. Откинув конечно тех, кто заражения не допустил.

Ой, что-то это мне напоминает...

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Ой, что-то это мне напоминает...

Dr.Web, который французские хакеры так и не смогли взломать за 1 час? :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Товарищ А. предложил очень правильный тест :) Который на самом деле покажет у кого из ав-комплексов какие модули реально работают:)

Только выборку зловредных ссылок надо побольше, штук 20, а собрать 20 разных рабочих ссылок на которых лежат живые (а не пятилетней давности) связки и успеть пока они не сдохли провести тестирование 10 антивирусов - офигеть какая нетривиальная задача :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Таким образом вам придется взять 20 машин, с 20 разными антивирусами, успешно одновременно заразиться на каждой из них (прям вот заразиться!) и потом сидеть и ждать - кто вас первый вылечит.

Вспоминая процент успешности лечения некоторых форм сложных заражений, совершенно не факт, что даже с выпущенной сигнатурой средство защиты сможет избавить тестовую систему от паразита. Да, собственно, такая задача и не стоит- нам задано измерение именно средней скорости реагирования вирлаба от начала распространения вредоносного бинарника до момента выпуска на него сигнатуры.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Не нужен такой тест, полезности ноль. Это как тестировать скорость доставки бензина на АЗС, когда меня интересует только одно - заправиться, а за сколько времени бензин доставляют на саму АЗС меня не волнует.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Товарищ А. предложил очень правильный тест Который на самом деле покажет у кого из ав-комплексов какие модули реально работают

тогда это будет тест именно модулей антивирусов, а не скорости реакции на новые угрозы.

Не нужен такой тест, полезности ноль. Это как тестировать скорость доставки бензина на АЗС, когда меня интересует только одно - заправиться, а за сколько времени бензин доставляют на саму АЗС меня не волнует.

Если у вы всегда уверены, что на каждой АЗС есть бензин и вы всегда можете приехать и без проблем на любой заправиться, то конечно вас это не интересует. А представим, что у вас в городе кончился бензин, и начали завозить его только сегодня. Тогда вас будет интересовать на какую станцию его завезут уже сегодня, а на какой можно будет заправиться только через неделю, а то вообще месяц. А вообще сравнивание новых угроз с продуктом, который уже существует (бензином) не корректно, правильней сравнивать с продуктом, который только появился .

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
тогда это будет тест именно модулей антивирусов, а не скорости реакции на новые угрозы.

Реакция может быть разной. Реакция может быть в виде занесения записи в вирусную базу. Или доработкой HIPS. Или веб-монитором по URL. И множеством других способов. Почему в сегодняшних реалиях важно выделять именно записи в вирусной базе, когда цель - недопустить заражение или вылечить в случае заражения - непонятно. Т.е. в чём ценность сферичности коня данного теста? :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Таким образом вам придется взять 20 машин, с 20 разными антивирусами, успешно одновременно заразиться на каждой из них (прям вот заразиться!) и потом сидеть и ждать - кто вас первый вылечит. Откинув конечно тех, кто заражения не допустил.

Ой, что-то это мне напоминает...

Получается динамический тест да еще и с тестом на лечение в придачу. Практически неподъемно такое сделать :(

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Valery Ledovskoy реакция может быть разной, но как я понимаю если вирлаб (не важно человек или робот сортировщик) признали файл вредоносным, то детект на него должен быть добавлен, а если угроза популярна то данные о ней будут занесены в облако ещё до выпуска баз. Насчёт доработки HIPS сомневаюсь, что кто-то из-за одного сэмпла будет его дорабатывать, его доработка будет реакцией на сумму угроз, которые присылались до этого и никак не будет зависеть от этого теста.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Получается динамический тест да еще и с тестом на лечение в придачу. Практически неподъемно такое сделать

а если без лечения. просто динамический. когда ждать можно? :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Либо отправится в /dev/null дальний конец очереди обработки. Потому что облако заявит, что такой файл существует в единственном экземпляре, и у клиентов никогда не встречался (это скорее всего бинарный мусор).

В любом случае до живого аналитика такой перепаковыш скорее всего не дойдет, пока у него не поднимется приоритет тем или иным образом (появится у пользователей, повторно придет из других важных источников, и т.д.).

Т.е. таким образом будет тестироваться агрессивность робота, а не наличие/работа вирлаба :-)

Т.е. презюмируется, что современные АВ продукты защищают только от массовых угроз, при таргетированных атаках (единичных) рассылка сэмплов вендорам бессмысленна?

Надо брать сэмплы, которые очевидно вредоносны - например деструктивные трояны, те что форматируют диски, например. Или шифровальщиков. Кстати, еще локеры.

Сбивать детекты, именно статические, без запусков сэмплов, и рассылать по вирлабам тестируемых продуктов. Один тестер - один АВ. Тогда и проблема VT отпадет - каждый тестер отследит реакцию своего продукта.

А у кого робота не хватило, или аналитиков, тот и проиграл в скорости.

Факультативно можно будет показать реакцию на запуск.

Тест нужен и интересен. Как показал, например, тест активного заражения, не все вирлабы одинаково полезны - некоторым шлешь, шлешь, а они не добавляют. Или напишут, что файл чист, или просто не отвечают. А кто-то добавляет за час.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
а если без лечения. просто динамический. когда ждать можно?

Нескоро. К сожалению...

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Как показал, например, тест активного заражения, не все вирлабы одинаково полезны - некоторым шлешь, шлешь, а они не добавляют. Или напишут, что файл чист, или просто не отвечают. А кто-то добавляет за час.

Согласен целиком и полностью. Вот только заставит ли этот тест вендоров как-то отреагировать? Реструктуризация работы, дополнительные затраты...

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Надо брать сэмплы, которые очевидно вредоносны - например деструктивные трояны, те что форматируют диски, например. Или шифровальщиков. Кстати, еще локеры.

Сбивать детекты, именно статические, без запусков сэмплов, и рассылать по вирлабам тестируемых продуктов. Один тестер - один АВ. Тогда и проблема VT отпадет - каждый тестер отследит реакцию своего продукта.

А у кого робота не хватило, или аналитиков, тот и проиграл в скорости.

Допустим. Но что такой тест покажет? В чем его ценность для пользователя?

Предположим, Нортон добавил детект через сутки, а Исет через 2 суток. Какой вывод мы сделаем?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Создайте учетную запись или войдите, чтобы комментировать

Вы должны быть пользователем, чтобы оставить комментарий

Создать учетную запись

Зарегистрируйте новую учётную запись в нашем сообществе. Это очень просто!


Регистрация нового пользователя

Войти

Уже есть аккаунт? Войти в систему.


Войти с помощью Facebook Войти Войти с помощью Twitter
Anti-Malware.ru Вконтакте   Anti-Malware.ru в Facebook   Anti-Malware.ru в Twitter   Anti-Malware.ru в LinkedIn   RSS