Тест антивирусов на производительность от Passmark Sofware

[Александр Шабанов 120]

Предлагаю Вашему вниманию сравнительное тестирование производительности от Passmark Sofware, австралийской компании, разработчика приложений для тестирования аппаратных средств и программного обеспечения.

Тестирование проводилось отдельно как для антивирусов так и для решений класса Internet Security.

В тестировании принимали участие следующие продукты:

- Outpost Security Suite Pro 2007

- Alwil Software Avast! 4.7

- Avira Personal Edition Classic 7.06

- BitDefender Antivirus 2008

- BitDefender Internet Security 2008

- Check Point Software Zonealarm Antivirus 7.0

- Check Point Software Zonealarm Internet Security Suite 7.0

- F-Secure Anti-Virus 2008

- F-Secure Internet Security 2008

- G DATA G DATA AntiVirus 2008

- G DATA G DATA Internet Security 2008

- Grisoft AVG Free 7.5

- Kaspersky Lab Kaspersky Anti-Virus 7.0

- Kaspersky Lab Kaspersky Internet Security 7.0

- McAfee McAfee Total Protection 2008

- McAfee McAfee VirusScan Plus Firewall and AntiSpyware 2008

- Panda Security Panda Antivirus 2008

- Panda Security Panda Internet Security 2008

- Symantec Norton Antivirus 2008

- Symantec Norton Internet Security 2008

- Trend Micro Trend Micro AntiVirus + AntiSpyware 2008

- Trend Micro Trend Micro PC-cillin Internet Security 2008

- Webroot Software Webroot Spysweeper 5.5

Сравнение производилось по следующим метрикам:

1) Скорость загрузки (Boot time);

2) Скорость сканирование (Scan speed);

3) Загрузка пользовательского интерфейса (User interface launch speed);

4) Использование памяти (Memory utilization);

5) Скорость загрузки по HTTP (HTTP download speed);

6) Запуск браузера и скорость просмотра (IE launch / browsing speed);

Сводная таблица результатов по антивирусам:

Победителями признаны:

Avast, AVG Free, Avira AV, Norton AV 2008

Результаты определялись следующим образом, после получения абсолютных результатов наихудший получал 0%, наилучший 100%, остальные показатели формировались в соответствии с данной градацией. Далее количество звезд определялось так - 0-20% 1 звезда - 20%-40% 2 звезды и т.д.

Сводная таблица результатов по комбайнам:

Победителями признаны:

Norton IS 2008, ZoneAlarm IS 7.1

Подробные результаты, а также методологию тестирования можно прочитать в отчете

В отчете представлены также абсолютные результаты.

По-моему мнению тест получился довольно интересный, реально приближенных аналогов по уровню еще не встречалось. Подход к тестированию был довольно качественный, например при определении скорости загрузки делалось 5 итераций, а затем брался средний результат, что учитывает определенную погрешность в измерениях.

Из недостатков можно отметить, что не участвовал хваленый Nod32 и Dr.Web, было бы очень занятно поглядеть эти результаты.

Также хочу обратить внимание на показатели Norton-a, очередной миф развенчан?

Я так понимаю, данный тест будет единичным, поэтому стоит его взять на заметку, а также обсудить объективность методологии и системы оценок.

[Arakcheev 35]

Какое-то убогое тестирование.

Нет многих известных антивирусов. Оценка не может быть адекватной.

[Александр Шабанов 120]

Какое-то убогое тестирование.

Нет многих известных антивирусов. Оценка не может быть адекватной.

Если можно, то более аргументировано.

В тестировании принимали практически все наиболее популярные продукты, за исключением может Dr.Web, Nod32 и Sophos, ну может еще Microsoft OneCare можно включить в этот список с большой натяжкой. По моему тут смысл не в рейтинге, а именно в количественных показателях и подходе к тестированию.

[dan 10]

Спасибо, хорошее тестирование, правда ещё в прошлом году его видел.

Есть некие проблемы в методологии, но в целом полезные результаты.

[Fil 0]

О чём говорит "cкорость загрузки по HTTP (HTTP download speed)"? Я что-то не понял до конца. Это скорость скачивания чего-нить из интернета?

[Александр Шабанов 120]

О чём говорит "cкорость загрузки по HTTP (HTTP download speed)"? Я что-то не понял до конца. Это скорость скачивания чего-нить из интернета?

Я так понял, с сервера на клиентскую рабочую станцию в в изолированном сегменте сети производилась закачка 15 раз подряд 422 файлов размером 24Mb, которые представляют из себя набор HTML-файлов, частичной копией CNN.com. Проверялось воздействие продукта на скорость скачивания, то есть замедление скачки за счет сканирования трафика. Каким именно образом производилась загрузка подробно не описано

[Fil 0]

А какая скорость была номинальная, и какой она стала при использовании антивируса? Высоки ли показатели? А то при этой "пятизвёздной" системе не понятно ничего. Может там различие не столь существенное, которое пользователю будет незаметно... хотелось бы знать подробнее

[Виталий Я. 859]

Александр, документу уже 3 месяца (дата выпуска - 29-11-07). Почему это исследование увидело свет именно сейчас?

Поясню интерес:

The current generation of products, available as of October 31 2007, were tested.

Cтранно, в момент ре-тестирования G-Data (не вставшего на Vista 5 и 7 ноября) уже 3-ий релизный билд 2008-ой версии Outpost вышел (build 6.0.2168.211.415.268, Дата релиза: 2 ноября 2007, до того - 22.10 и 24.10 были билды).

Тестирование "прошлой" версии в ряду остальных "сменивших цифру" не очень-то корректно. Версия 2008 как минимум скоростью (не говоря о защите от утечки данных) отличалась в в лучшую сторону уже на момент релиза. См. итоги тестов на скорость VirusBulletin в феврале, например.

"Some testing was performed on Vista, but at the time of writing, one product failed to install cleanly under Vista when tested (G-Data IS 2008) and another explicitly stated that it did not support Vista (Agnitum Outpost Security Suite 2007)."

"Some products such as NOD32 were omitted, whose new 2008 software release was not available by our deadline for this report." - т.е. они соблаговолили узнать про продукт ESET, а в Agnitum или хотя бы на сайт даже не зашли за новой версией с Vista-поддержкой. Странно.

[Александр Шабанов 120]

А какая скорость была номинальная, и какой она стала при использовании антивируса? Высоки ли показатели? А то при этой "пятизвёздной" системе не понятно ничего. Может там различие не столь существенное, которое пользователю будет незаметно... хотелось бы знать подробнее sad.gif

Да, то что там нет номинального времени загрузки это явное упущение авторов, было бы интересно.

Но разница между худшим и лучшим результатом существенная:

Trend Micro IS 2008 16.3 sec

BitDefender Total Security 2008 90.7 sec

Но если размышлять чисто гипотетически, то указана скорость сети 100 Mbit/s, то есть 12.5 Mbytes/s

Если было 24 Mb, это около 2 секунд, плюс 3-4 секунды на обработку на разных уровнях.

Но сомневаюсь, что реальная сеть выдает скорость по стандарту

Кстати, на мой взгляд данные результаты по факту ничего из себя не представляют, если их не соотносить с количественными показателями эффективности самой защиты, то есть детектированию малвари То есть какой прок от антивируса который сканит быстрей всех, но ловит вирусы хуже всех остальных Необходимо соотнести эти результаты с результатами других тестов на обнаружение и тогда можно делать уже объективные выводы.

[Fil 0]

Да, то что там нет номинального времени загрузки это явное упущение авторов, было бы интересно.

Но разница между худшим и лучшим результатом существенная:

Trend Micro IS 2008 16.3 sec

BitDefender Total Security 2008 90.7 sec

Тьфу! 74 секунды разницы?! неее это не серьёзно. Пользователи разницы не заметят... или есть такие кто сидит и отсчитывает минуты? Тест этот, похоже, ничего не показывает

Меня очень сильно интересует производительность того или иного антивируса при работе в 3D-приложениях, играх. У кого какие советы есть на этот счёт? Сильно ли влияние того же Каспера или Нода во время игры?

[А.Щеглов 6]

Александр, этот тест иллюстрация того, как легко независимое исследование превратить в "зависимое". При этом не будем забывать, что подобные исследования сильно могут сказаться на выборе конечным потребителем средства.

На мой взгляд, основа подобного исследования это выбор и обоснование параметров, обоснование подхода к сравнительной оценке. Здесь оно сделано очень "кисло".

Вот, например, "Результаты определялись следующим образом, после получения абсолютных результатов наихудший получал 0%, наилучший 100%, остальные показатели формировались в соответствии с данной градацией. Далее количество звезд определялось так - 0-20% 1 звезда - 20%-40% 2 звезды и т.д.". Очень странно. Если есть абсолютные значения, то проценты определяются автоматически - делим значение варианта на максимальное значение, если лучшее качество определяется максимальным значением параметра, в противном случае, наоборот, минимальное значение делим на значение варианта - получаем проценты (это классика).

Главное. Что и с чем сравнивать. По параметру "надежность" и "цена" счеты будут превосходить любой современный компьютер. Возьмем компьютер и счеты, расставим, по аналогии, звездочки по трем параметрам - цена, стоимость, производительность - какое решение признаем лучшим?

Еще очень важный момент, что принять за эталон (за лучшее качество) - это один из основных вопросов в подобных исследованиях. Мы сравниваем, что есть, между собой, или применительно к тому, что нужно пользователю. Если до Парижа на автомобиле добраться быстрее, чем на велосипеде, то я всеравно полечу на самолете, не зависимо от результатов сравнительного анализа первых двух вариантов. Другими словами, на практике принято, что средство защиты должно оказывать влияние на загрузку ресурса в пределе 10%. Вот эталон. Давайте сравнивать с ним. Это крайне важно. Вот пример. Если одно решение "съедает" 60, а другое 90 процентов ресурса, то при сравнении вариантов между собою, мы определим, что одно решение в 1,5 раза эффективнее, чем другое. При сравнении же с эталоном что мы получим, когда требуются "потери" не более 10 процентов? Отбросим оба таких решения, как не выполняющие базового требования к производительности!

Очень бы хотелось, чтобы Вы на форуме максимально уделили внимание этим вопросам, ведь, то, что Вы позиционируете - независимая экспертиза, очень важное и полезное дело, если она действительно независима, и, что очень важно, обоснована.

[Александр Шабанов 120]

Александр, документу уже 3 месяца (дата выпуска - 29-11-07). Почему это исследование увидело свет именно сейчас?

Видимо, потомучто это исследование особо не анонсировалось и я его увидел только сейчас

Согласен, что тестировать версию предыдущей линейки не совсем справедливо. Поэтому основной целью обсуждения считаю сам подход, методологию и список метрик, а не список участников и результаты. Возможно следует что-то перенять, так как похожее исследование планируется сделать в рамках нашего портала

Александр, этот тест иллюстрация того, как легко независимое исследование превратить в "зависимое". При этом не будем забывать, что подобные исследования сильно могут сказаться на выборе конечным потребителем средства.

На мой взгляд, основа подобного исследования это выбор и обоснование параметров, обоснование подхода к сравнительной оценке. Здесь оно сделано очень "кисло".

Именно это я и пытаюсь выяснить, насколько объективны выбранные метрики для анализа производительности такого рода систем.

Возможно, основываясь на своем опыте, Вы сможете предложить иные показатели производительности? А также интересует Ваше мнение почему данные параметры выбраны и обоснованы "кисло"? Обоснование, выбранных метрик для меня кажется очевидным, оно основано на заявленной функциональности системы плюс использование системных ресурсов.

Вот, например, "Результаты определялись следующим образом, после получения абсолютных результатов наихудший получал 0%, наилучший 100%, остальные показатели формировались в соответствии с данной градацией. Далее количество звезд определялось так - 0-20% 1 звезда - 20%-40% 2 звезды и т.д.". Очень странно. Если есть абсолютные значения, то проценты определяются автоматически - делим значение варианта на максимальное значение, если лучшее качество определяется максимальным значением параметра, в противном случае, наоборот, минимальное значение делим на значение варианта - получаем проценты (это классика).

С этим согласен, в качестве критерия оценки необходимо было выбирать наилучший показатель (оптимально эталонное значения) и относительно него определять остальные.Такой подход является наиболее удачный, позволяет учитывать объективно разницу в количественном результате.

Другими словами, на практике принято, что средство защиты должно оказывать влияние на загрузку ресурса в пределе 10%. Вот эталон. Давайте сравнивать с ним. Это крайне важно. Вот пример. Если одно решение "съедает" 60, а другое 90 процентов ресурса, то при сравнении вариантов между собою, мы определим, что одно решение в 1,5 раза эффективнее, чем другое. При сравнении же с эталоном что мы получим, когда требуются "потери" не более 10 процентов? Отбросим оба таких решения, как не выполняющие базового требования к производительности!

Очень бы хотелось, чтобы Вы на форуме максимально уделили внимание этим вопросам, ведь, то, что Вы позиционируете - независимая экспертиза, очень важное и полезное дело, если она действительно независима, и, что очень важно, обоснована.

Это очень правильное высказывание, полностью его поддерживаю, для объективного результата всегда необходимы граничные значения количественных показателей. На мой взгляд самый сложной частью как раз является задача выбора "наилучшего решения", особенно если это многокритериальный анализ, это связано с тем, что сложно определить относительный вес критериев в ситуации, когда продукт А лучше продукта Б по одному показателю, а продукт Б лучше А по другому. В данном случае результат выносился суммой всех показателей, что конечно не может быть правильно, и этим страдают многие печатные издания, публикующие "рейтинги" продуктов. В данном исследовании сделано примерно также, по моему мнению это обусловлено тем, что основная цель авторов было определить значения показателей, а не сделать на их основе выводы.

Этим вопросам мы пытаемся уделит максимум внимания, по крайней мере со своей стороны

Надеюсь Вы нам тоже поможете в этом плане.

[Andrey75 0]

Мне кажется, что тесты на производительность в настоящий момент практически потеряли свою актуальность.

Неужели, кто то на современных компьютерах, чувствует разницу между различными антивирусниками (кроме времени полного сканирования)???

[А.Щеглов 6]

Этим вопросам мы пытаемся уделит максимум внимания, по крайней мере со своей стороны

Надеюсь Вы нам тоже поможете в этом плане.

С удовольствием, конечно, в меру своих сил и знаний.

[А.Щеглов 6]

Мне кажется, что тесты на производительность в настоящий момент практически потеряли свою актуальность.

Неужели, кто то на современных компьютерах, чувствует разницу между различными антивирусниками (кроме времени полного сканирования)???

А как обойтись без полного сканирования. Ведь известно, что в любой момент времени база сигнатур априори не полна. Да и с эвристикой не все здорово. Другими словами, нужно исходить из того, что в любой момент времени на Вашем компьютере присутствует несколько вирусов, которые Вы сможете обнаружить лишь при очередном (и то в идеале) полном сканировании. Что получаем - необходимость полного сканирования при каждом обновлении базы (что, кстати говоря, не даст Вам никаких гарантий отсутствия вирусов, но это иной вопрос оценки эффективности по другим критериям).

А вот мой пример из жизни. Ребенок попросил проверить его компьютер на наличие вирусов. Запустил антивирус (не буду говорить какой), через три часа проверки, мне все это надоело, и я его отключил. После подобного неудачного эксперимента не могу согласиться с Вашим мнением.

Вопрос-то и состоит в оценке влияния, в определении параметров. Это позволит обоснованно (с цифрами в руках) "разрешить наш спор".

Для сканирования по сигнатурам вырисовывается показатель - полное сканирования при каждом обновлении базы (чаще смысла не имеет (при условии, что Вы сканируете все вносимые на компьютер объекты) - база та же, если у Вас один антивирус, реже, уж тем более). Естественно, что этот показатель напрямую связан с эффективность обнаружения (отчасти, это величина базы) и т.д.

Определив параметры, определив условия использования антивируса (необходимую частоту проверки и др.), уже может делать какие-то выводы не голословно.

Не по теме, просто в порядке примера. Вы когда-нибудь пытались настроить аудит, встроенный в ОС Windows, по умолчанию, практически все его функции отключены. Уверяю Вас, настроив, поймете, как влияет безопасность на "резвость" системы. Вопрос, что и как использовать.

[Andrey75 0]

Я бы не советовал ставить антивирусник, который современный винчестер (250-500 ГБайт) сканирует за 15-20 минут.

[Виталий Я. 859]

современный винчестер (250-500 ГБайт)

Больше 80% конфигураций ПК и ноутбуков, продающихся в магазинах нашей необъятной родины, имеют не более 160 Гб на борту.

[Fil 0]

Я бы не советовал ставить антивирусник, который современный винчестер (250-500 ГБайт) сканирует за 15-20 минут.

В принципе согласен, хотя смотря какой пользователь. Мне выгоднее принебречь защитой сканировать за 15-20 минут, а не тратить на проверку 1,5-2 часа, которые в большинстве случаев проходят впустую... всё равно ничего ценного у меня нет

[Andrey75 0]

http://www.nix.ru/price/nix103.html это прайс NIX 80% до 160 ну не как не получается. Я бы сказал 160 это минимум

[Виталий Я. 859]

Andrey75

простите, Вы в Москве живете?

Жаль, что питерский РИК http://ric.spb.ru/ не вешает подробных прайсов на сайте. а то бы Вы все увидели.

[Alex_Goodwin 81]

В Питере лучше http://www.spb.ultracomp.ru/

[Andrey75 0]

Пусть будет 120-160 Гбайт (объём винта не относится к теме) всё равно 15 мин это слишком мало для качественной проверки. Проблема в "тормозной" природе винчестеров с переходом на SSD носители этот тест уж точно будет не актуален!

С другой стороны, неужели вы компьютер включаете максимум на 20 мин? А если нет, то о чём тогда спор? В крайнем случае можно полное сканирование и на ночь поставить.

[Сергей Ильин 1538]

Мне кажется, что тесты на производительность в настоящий момент практически потеряли свою актуальность.

Неужели, кто то на современных компьютерах, чувствует разницу между различными антивирусниками (кроме времени полного сканирования)???

Не думаю, скорость работы антивирусного монитора/сканера - это фактически один их наиболее важных критериев при выборе антивирусного решения у пользователей. Если система голая, то разница может и не особо заметна, а вот если у тебя там крутится тяжелый софт, идет работа с графическим пакетами, то тормоза антивируса реально бесят. Я например, часто просто вырубаю антивирус, хотя комп у меня далеко не слабенький

Потом куча людей работает на слабых компах, рабочие станции в большинстве компаний - это далеко не быстрые машины, для них скорость проверки критична.

[Иван 290]

Не думаю, скорость работы антивирусного монитора/сканера - это фактически один их наиболее важных критериев при выборе антивирусного решения у пользователей.

когда вы последний раз запускали полную проверку компа сканером (не для тестирования на коллекциях вирья, а просто так для самоуспокоения)?

[Dr.Golova 55]

> когда вы последний раз запускали полную проверку .... просто так для самоуспокоения

Для самоудовлетворения достаточно сканирования точек автозапуска и запущенных процессов.

Для полного удовлетворения делается сканирование критических областей типа систем/системрут.

А полную проверку, лично я (!), делаю только перед полным бэкапом/клонированием системы. И смысла рыться в терабайтах скачанного хлама особого не вижу - как поставится/запустится - будет отловлено. У меня всетаки персональная машина а не файловый сервер, где в случае заражения пользователей будет виноват админ :-)