Результаты VB100% - Август 2008 - Страница 2 - Тесты и сравнения - Форумы Anti-Malware.ru Перейти к содержанию
Иван

Результаты VB100% - Август 2008

Recommended Posts

Deja_Vu

Думаю если еще парочка выйдет - то тест вообще потеряет актуальность, кому нужен тест, который не содержит в себе 4-5 передовых антивирусных продуктов?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин

Заявление «Доктор Веб» относительно участия продуктов компании в сравнительном тестировании журнала Virus Bulletin

В связи с появившимися в последние дни сообщениями средств массовой информации о выходе компании «Доктор Веб» из участия в сравнительных тестированиях антивирусных продуктов, проводимых британским журналом Virus Bulletin, а также в связи с многочисленными вопросами пользователей и партнеров компании, мы сочли необходимым опубликовать свою официальную позицию по этому вопросу.

Virus Bulletin, будучи наиболее авторитетным международным изданием, посвященным вопросам борьбы с вредоносными программами, естественным образом объединял и объединяет вокруг себя практически все антивирусные компании; его ежегодные антивирусные конференции были и остаются уникальным местом общения и обмена информацией представителей антивирусных вендоров, где коммерческая конкуренция отходит на второй план, а главными становятся проблемы исследования новых тенденций развития вредоносных программ и методов защиты от них компьютерных пользователей во всем мире.

Одним из традиционных событий в антивирусной отрасли, своего рода ее ритуалом, являются сравнительные тестирования антивирусных продуктов, которые Virus Bulletin проводит каждые два месяца. Антивирус Dr.Web – один из старейших участников сравнительных тестирований журнала Virus Bulletin, его история в этих тестированиях ведет отсчет со второго теста в феврале 1998 года. За прошедшие 10 лет продукты Dr.Web неоднократно успешно проходили эти тестирования, получая почетный знак VB100%. Среди всего многообразия антивирусных тестов сравнительные тестирования журнала Virus Bulletin всегда выделялись прозрачностью используемой методики, скрупулезностью и ответственностью в подходе к продукту каждого вендора, прекрасными коммуникациями с вендорами.

Однако за последние несколько лет у многих антивирусных вендоров появилось немало вопросов к этим сравнительным тестированиям. Будучи предельно строгой и понятной, их методика начала существенно отставать от уровня развития как самих вредоносных программ, так и антивирусных технологий. По сути, некогда почетная награда VB100% перестала отражать реальное качество работы антивирусных программ и, что еще хуже, стала все чаще использоваться для манипулирования мнением пользователей.

Основными проблемами сравнительных тестирований Virus Bulletin компания «Доктор Веб» считает следующие:

1. Прохождение антивирусом теста Virus Bulletin и получение знака VB100% определяется результатами сканирования так называемой коллекции In-the-Wild. Данная коллекция включает в себя только вирусы, способные к репликации, что естественным образом существенно сужает круг "допущенных" в нее вредоносных программ. По оценкам «Доктор Веб», эта коллекция насчитывает в себе не более 10% всех вредоносных программ, от которых способны защитить пользователей современные антивирусы.

2. В силу указанного критерия формирования коллекции In-the-Wild, используемой для основного тестирования Virus Bulletin, за рамками сравнительных тестирований остается основной пласт сегодняшних вредоносных программ, а именно - троянские программы. То же самое можно сказать и об одной из самых серьезных проблем последних 4-5 лет - так называемых «руткитах». Как бы хорошо ни детектировал антивирус троянские программы, число которых сегодня на несколько порядков превосходит число реплицируемых вирусов, как бы надежен он ни был в противостоянии «руткитам», награда VB100% достанется ему только в том случае, если он исправно обнаружит всего нескольких тысяч вирусных образцов в коллекции In-the-Wild. Увы, о способностях антивирусной программы бороться с троянцами, пользователь никогда не узнает, ориентируясь только на наличие награды VB100%, преподносимой некоторыми маркетологами и «экспертами» как некий эталон антивирусной отрасли.

3. Антивирус Dr.Web, как и другие антивирусные продукты, постоянно развивается и совершенствуется, отвечая вызовам современных реалий. Практически ежедневно антивирусным компаниям приходится сталкиваться с новыми технологиями, используемыми создателями вредоносных программ. Для того, чтобы эффективно противостоять им, необходимо постоянное развитие антивирусов, которое не сводится только к пополнениям сигнатурных баз. Тестирование Virus Bulletin в той своей части, которая непосредственно касается присуждения награды VB100%, не способно сравнить технологические достижения антивирусов, являющиеся следствием развития технологий противодействия вредоносным программам, находящимся за рамками «официальной» тестовой коллекции.

4. Основные качества антивируса проявляются не при рутинном сканировании коллекции файлов, а в реальной ситуации, связанной с вирусной атакой – при попытке заражения компьютера или в условиях, когда заражение уже имеет место. В последние несколько лет немало звучит предложений о необходимости создавать антивирусам гораздо жесткие условия при тестировании, сравнивать их по их способности противостоять активному заражению. Какие бы великолепные результаты по детектированию вирусов из «дикой природы» ни демонстрировал антивирусный продукт при тестировании Virus Bulletin, эти результаты ничего не скажут его пользователям о способности продукта реально противостоять этим же вирусам, когда они будут не просто лежать на диске в составе коллекции, а будут запущены на компьютере, являясь, по сути, хозяевами положения. Никаким образом не сравниваются антивирусы в этих тестированиях и по своим способностям лечить зараженный компьютер.

Указанные проблемы, по мнению компании «Доктор Веб», серьезным образом снижают значимость результатов сравнительных тестирований, проводимых журналом Virus Bulletin в рамках выбранной на сегодняшний день методики. На их основании практически невозможно сделать объективные выводы о качестве сравниваемых продуктов, об их способности защитить пользователей от современных вирусных угроз. Несмотря на свое название, сравнительные тесты Virus Bulletin не сравнивают продукты по большинству функций, присущих современным антивирусам. В этих условиях знак VB100%, многими преподносимый как показатель высокого качества завоевавшего его продукта, на самом деле свидетельствует лишь о том, что антивирус успешно прошел некий тест, содержание которого имеет мало общего с оценкой тех возможностей, которые действительно востребованы в условиях современных вирусных угроз.

Именно эти факторы и привели компанию «Доктор Веб» к решению приостановить свое участие в сравнительных тестированиях Virus Bulletin. Мы внимательно следим за эволюцией методики тестов и готовы, безусловно, участвовать в них тогда, когда их содержание будет адекватно соответствовать современным требованиям антивирусной безопасности.

http://info.drweb.com/show/3482?lng=ru

**************************

Соглашусь с доводами компанию «Доктор Веб», минусы тестов VB не раз уже обсуждались на нашем форуме. Жаль только не приводятся какие-то примеры "адекватных" тестов.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Ego1st
Жаль только не приводятся какие-то примеры "адекватных" тестов.

ну возможно, по мнению др.веб их просто нету сейчас=))

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
georgy_n
ну возможно, по мнению др.веб их просто нету сейчас=))
Их действительно нет. Руководствуясь ностальгией поставил Dr.Web , попользовался 3 дня и вернулся к Avira, объясню почему:

1. Сканирование 2-х дисков по 120Gb (один - системный, больше на нем ничего нет) заняло ~ 6 часов;

2. На Висте планировщик задач встраивается в системный, настроить его без 1/2 ста не так просто;

3. При обнаружении "Dr.Web KeyViewer" антивирус показал, что объект "вылечен" после этого "лечения" найти его нигде не удалось;

4. При тестировании архива из 48 зараженных объектов Dr.Web определил 10, в т. ч. 5 эвристиком (кстати, НОД32 - только 2), Авира - 35, параноидальный Ikarus - 37. Одновременно отправил архив в вирлаб Авиры и Др.Вэб.

Далее ничего нового, Авира ответила, что из-за большого кол-ва файлов, вредоносные файлы будут добавлены в базу при очередном обновлении. Др.Вэб - ни ответа, ни привета (исключая робота).

Несколько скриншотов, связанных с тестом архива, архив могу дать интересующимся, чтоб не было сомнений в результатах (актуально на сегодняшнюю дату):

dr.jpg

954b4dffea01.jpg

41QSx53STl.jpg

P. S.: настройки Авиры умеренные. Эвристика - средний уровень, - по умолчанию. Остальные настройки тоже по-умолчанию, расширен только перечень определяемых объектов - добавлены программы - шутки. Детекта подобных программ не было, поэтому настройки не могли повлиять на конечный результат.

post-4227-1218211717_thumb.jpg

post-4227-1218211770_thumb.jpg

post-4227-1218211852_thumb.jpg

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Valery Ledovskoy
3. При обнаружении "Dr.Web KeyViewer" антивирус показал, что объект "вылечен" после этого "лечения" найти его нигде не удалось;

Не понял, кто чего как чем обнаружил? Чего чем не удалось найти?

Dr.Web KeyViewer - это чей продукт? У нас таких нету...

4. При тестировании архива из 48 зараженных объектов Dr.Web определил 10

Кто сказал, что 48 объектов точно заражены, откуда видно, что Dr.Web определил 10? Какие названия у обнаруженных? Откуда взялся архив? Когда были обновлены базы?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
georgy_n
Не понял, кто чего как чем обнаружил? Чего чем не удалось найти?

Dr.Web KeyViewer - это чей продукт? У нас таких нету...

1. Поскольку речь шла о не понравившихся моментах в Dr.Web, соответственно, он и обнаружил своим гардом --> показал, что инфицированный объект излечен, но где искать этот излеченный объект... поскольку с жесткого диска он пропал напрочь;

2. Dr.Web KeyViewer - я и не утверждал, что он "ваш". Еще скажите, что не приходилось слышать ;-) Все же врага надо знать в лицо. Дать ссылку на скачивание?

Кто сказал, что 48 объектов точно заражены, откуда видно, что Dr.Web определил 10? Какие названия у обнаруженных? Откуда взялся архив? Когда были обновлены базы?

1. На счет того, что заражены все 48, утверждать не могу, тут, сорри, не верно выразился. С другой стороны, ответа от аналитиков Dr.Web не дождешься и утверждать обратное я тоже не могу (мы с Вами уже обсуждали работу вирлаба ДрВэб, предлагаю не повторяться), а писать на форуме: "когда рассмотрят мой тикет", - желания нет, извините. Это скорее вашей компании нужно, чем мне, поэтому и предложил в предыдущем посте дать ссылку на архив (№ тикета я не сохранил, к сожалению);

2. То, что Dr.Web определил 10 - видно из скриншота, как мне показалось;

3. Названия обнаруженных объектов каким антивирусом Вас интересуют? Dr.Wеb точно воспроизвести не могу, логи не сохранял, если только заново CureIt! пройтись. Если намек на обычные фолсы Авиры, то все было взято сигнатурами, названия следующие:

TR/Agent.BGW, BDC/Arash.A, KIT/BajGir.A, TR/Spy.VB.aet, KIT/Peymanvm2.B, TR/Telsender.A.2, KIT/PSW.Yahoo, BDS/Backdoor.Gen, BDS/HUser.63027, KIT/MultiPassword.A, TR/Crypt.CFI.Gen, EXP/MS05-013, BAT/DelAll.AT, BAT/DelAll.AR, BAT/Delfiles.CD, BAT/DelAll.AS, HTML/Dldr.Iframe.G, W32/Virut.AX, BDC/Lordly.2, BDC/Lordly.1, TR/Agent.BGW, BDC/Lordly.2, BDS/HUser.63027, TR/PSW.YPager.F, TR/PSW.YPager.E, HTML/Dldr.Iframe.G, TR/Crypt.CFI.Gen, TR/VB.Dae.2, TR/Flood.Yahoo.A

4. Архив был переслан одним знакомцем - сисадмином с пометкой, что в нем вирусы, еще не определяемые некоторыми АВ;

5. Актуальность баз - на момент проверки архива, т. е. 2 дня назад.

  • Upvote 5

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Виталий Я.

Очень хорошо, что компания "Доктор Веб" так подробно разъяснила свой выход из тестирования, расставив все точки над i. Хотя превентивные меры всегда лучше, чем объяснения постфактум. Тем не менее позиция ряда других ведущих АВ-вендоров все-таки попрочнее - утверждая, что VB100 устарел, они награду все-таки в подавляющем большинстве случаев берут. Замечу, что к компании отношусь с симпатией, несмотря на возможно острые комментарии.

Понравился момент в заявлении, в котором заостряется внимание на "невидимой" в подобных тестах технологической продвинутости решений - в частности, в лечении руткитов. Есть и некоторые сомнения по поводу пункта 4 о защите реального ПК при реальной атаке, т.к. о комплексной защите ПК решениями компании говорить пока рано, несмотря на разговоры о 5-ке. Ждем 5-ку, а пока говорим только о комплексной защите ПК от вредоносного кода и спама.

Жаль, что адекватных суммарных сравнительных тестов комплексной защиты очень мало и не у всех вендоров (увы, и у Dr. Web) получается участие в них - будь то ограниченные наборы решений в заказах на тесты от прессы или просто отсутствие ресурсов для подготовки, а то и желания тестироваться.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
TANUKI
для одной компании это скорее причины технического характера, а для другой — политического».

А кто расскажет коротко, но ясно, про эти две причины?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Иван

видимо автор этих строк сможет рассказать

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин

С нетерпением жду первого теста AMTSO. Во-первых, это будет сильный удар по ценности VB. А во-вторых, очень интересно, что будут говорить о результатах этого теста в компании "Доктор Веб". Что-то мне подсказывает, что в динамическом тесте у них нет шансов на высокие места. Опять тесты будут "не такие, как нужно" и последует восстание против AMTSO?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Иван
С нетерпением жду первого теста AMTSO. Во-первых, это будет сильный удар по ценности VB. А во-вторых, очень интересно, что будут говорить о результатах этого теста в компании "Доктор Веб". Что-то мне подсказывает, что в динамическом тесте у них нет шансов на высокие места. Опять тесты будут "не такие, как нужно" и последует восстание против AMTSO?

насколько мне помнится эта чудная организация не будет делать тестов, она лишь вырабатывает методологию причем ужо второй год :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
DWState
насколько мне помнится эта чудная организация не будет делать тестов, она лишь вырабатывает методологию причем ужо второй год :)

Думаю они все же придут к тестам...или создав методологию, они просто передадут управление проведениями тесток кому-нибудь

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Valery Ledovskoy
Опять тесты будут "не такие, как нужно"

Сергей, это передёргивание. Нет идеальных антивирусных продуктов, нет идеальных тестирований антивирусных продуктов. Молчать в тряпочку и пытаться дотянуться в существующих тестированиях до первых мест любой ценой или же говорить о недостатках тестирований, которые сейчас не видны только слепому - это две достойные друг друга альтернативы. Не нужно говорить, что одна или другая из этих альтернатив более правильная. Пока что обе имеют право на существование.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин

Я понимаю, что в любом тесте есть недостатки. Разница состоит в том, как к ним относиться. Можно делать это конструктивно, а можно прямолинейно отрицать. В PR-политике Доктора я чаще наблюдаю атрибуты второго пути.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Valery Ledovskoy
В PR-политике Доктора я чаще наблюдаю атрибуты второго пути.

Сергей, но приостановку же тестирования в VB аргументировали?

Но я не о том. Даже если не аргументировать. Вы не можете принять мысль, что может быть выгоднее отказаться от того или иного тестирования без объяснения причин, чем тратить время на то, чтобы пытаться что-то доказывать? Т.е. один путь - участвуем в тестированиях, которые есть, принимаем их недостатки и пытаемся занять первые места. Второй путь - взаимодействуем с пользователем на всех уровнях - проводим обучение, оказываем достойную техподдержку, с помощью разработчиков и вирлаба закрываем недостатки, которые возникают у пользователей. И при этом тестирования вроде как и не нужны - пользователь и без этого доволен и продлевает из года в год свою лицензию.

Т.е. участие в тестировании (любом) - это не необходимость вовсе, можно спокойно (о, ужас!) работать и без них, т.е. тут встаёт вопрос о необходимости тех или иных тестов для того или иного вендора.

Т.е. тесты могут помогать, а могут мешать работать с пользователем.

Вы можете сказать, что тем самым вендор может продезинфомировать пользователя, не участвуя в тестах. Но можно же взять демо-лицензию, а потом купить не на год, а на 3 месяца и убедиться во всём - пощупать самостоятельно все плюсы и минусы, сравнить с другими продуктами. И ощущения конкретного пользователя (не индуцированное тестами), как он видит эти продукты (ПО+сервисы вокруг него) часто идёт вразрез вообще не только с тестами, но и с соседом по площадке, с которым он пьёт пиво каждые выходные. И этот пользователь будет больше прав, чем самый точный тест.

Какой тест опишет качество взаимодействия с техподдержкой или пренебрежительное отношение разработчиков на официальном форуме, или ауру установленного продукта? :)

в любом тесте есть недостатки. Разница состоит в том, как к ним относиться. Можно делать это конструктивно, а можно прямолинейно отрицать.

Так Вы хотите сказать, что если в тесте есть недостатки, то их (тесты) нельзя просто игнорировать? Обязательно нужно пытаться что-то кому-то доказывать? Да ну. Мне кажется, что это как раз выбор вендора - где ему участвовать. А объяснение причин выбора - это как раз факультативно.

Вы можете сказать, что вендоры говорят не всю правду. Так и тесты не говорят всю правду, они весьма ограничены в своих возможностях и часто дезинформируют пользователя. Тестируют те качества продукта, которые доступны для тестирования. А другие, которые не менее важны, просто невозможно протестировать - вообще никак, ни с недостатками, ни без них. А потом в техподдержку обращаются пользователи с такими речами: "Мне Ваш продукт очень нравится и устраивает, я пользуюсь им много лет. Так почему я не вижу, что в последние n месяцев Ваш продукт не победил... ну, допустим, в VB?" Т.е. пользователь имеет своё устоявшееся мнение, и он прав, убеждаясь в своём мнении годами, а тесты выбивают его мнение из колеи, заставляют совершенно безосновательно начинать сомневаться.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
alexgr
А потом в техподдержку обращаются пользователи с такими речами: "Мне Ваш продукт очень нравится и устраивает, я пользуюсь им много лет. Так почему я не вижу, что в последние n месяцев Ваш продукт не победил... ну, допустим, в VB?" Т.е. пользователь имеет своё устоявшееся мнение, и он прав, убеждаясь в своём мнении годами, а тесты выбивают его мнение из колеи, заставляют совершенно безосновательно начинать сомневаться.

возвращаясь к заявлению - даже если это всего 10% общего функционала, но с завидным постоянством ЭТО проваливается.... Разве этого мало для сомнений? Пусть даже если это 5%. Повод для сомнений, безусловно, есть. Вспоминию некий диалог по поводу достаточно постоянных провалов УНА - " Провал - это повод сгруппироваться, сосредоточиться и - взять! доказать всем, что это случай". А при таком наборе "случаев" стоит говорить о тенденции как минимум.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Иван

доктор пошел по пути не участия в тестах потому, что их результаты давно и постоянно вредили имджу их продуктов, что ав-компаративз, что VB100%

это вполне адекватный шаг в текущий для них ситуации с тестами

но вот не будет ли отрицание всех тестов поголовно вызывать сомнения в качестве продукта еще большее, чем провалы в тестах?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Кирилл Керценбаум
но вот не будет ли отрицание всех тестов поголовно вызывать сомнения в качестве продукта еще большее, чем провалы в тестах?

Полностью согласен. Несмотря на очевидные недостатки VB100 или других подобных тестов, отказ от участия в нем не последних АВ вендоров на фоне того, что все новые и новые продукты присоединяются к тесту и подчас неплохо с ним справляются, выглядит более ущербно, чем провал в тестировании

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Valery Ledovskoy
возвращаясь к заявлению - даже если это всего 10% общего функционала, но с завидным постоянством ЭТО проваливается.... Разве этого мало для сомнений?

Мало. Потому что если сравнивать 100% функционала, результаты будут совершенно другими, и сомневаться уже будем по поводу других продуктов. Неужели это непонятно? Слон - это гладкий столб, или же это мягкий хобот, или это тонкий маленьких хвост? Да ни то, ни другое, ни третье, и одновременно всё сразу.

но вот не будет ли отрицание всех тестов поголовно вызывать сомнения в качестве продукта еще большее, чем провалы в тестах?

Не будет. Пользователям можно объяснить свою позицию, и многие её поймут. Делать это можно как через техподдержку, так и через статьи/пресс-релизы. Кстати, не только у нас такие настроения по поводу тестов. И это уже превращается в тенденцию.

Не думаю, тем не менее, что от этих настроений тесты как таковые вымрут. Такая ситуация, возможно, выведет тесты на качественно новый уровень, и вендоры снова захотят участвовать - кто знает?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Иван
несмотря на очевидные недостатки VB100

вот насчет VB у меня особое мнение, с ним в текущем виде надо кончать и зря симантек их поощряет

тест по методики пан или пропал (дали значек али нет) за 100% детект на сомнительной коллекции это не дело

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
alexgr
Мало. Потому что если сравнивать 100% функционала, результаты будут совершенно другими, и сомневаться уже будем по поводу других продуктов. Неужели это непонятно? Слон - это гладкий столб, или же это мягкий хобот, или это тонкий маленьких хвост? Да ни то, ни другое, ни третье, и одновременно всё сразу.

Смешно - три слепца выясняли, что такое слон..... Три слепых слона решили узнать, что такое человек. Первый потрогал ногой и сказал, что человек плоский, два других потрогали и согласились... :D

Не мало на самом деле...10% функционала, которые постоянно не берутся - есть повод для постоянного беспокойства. Ведь что-то не в порядке, согласитесь! Зачем продукт с темой беспокойства....И будет тогда человек плоским - если переходить на тему самоудовлетворенности продуктом вендором

  • Upvote 5

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Valery Ledovskoy
Смешно - три слепца выясняли, что такое слон.....
Не мало на самом деле...10% функционала, которые постоянно не берутся - есть повод для постоянного беспокойства.

Ок, обратная ситуация. Щупаем 10% функционала, и эти 10% не вызывают беспокойства. Получаем красивые наградки несколько лет подряд, покупаем продукт. А потом выясняется, что он не видит 15% троянов и 80% руткитов (в активном виде, конечно).

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
alexgr

что-то или кто-то видит 100%? Кроме НОД32 конечно....

Щупаем 10%, 15% функционала - и получаем хороший результат.... Приятно, греет сердце... Не получаем результат - как то не греет, правда? теперь по сути - пользователь со Спайдером в трее 100% защищен? Прислать сэмплы, которые он не видит? или прислать сэмплы с фолсами? У меня есть немного и тех, и тех. Но есть один ответ - неверный детект по Trojan. Rox (обсуждалось уже, он не троян) и лечение удалением - это было круто. Эндюзер долго смотрел внимательно в глаза - было неприятно....

Потому про три слепых слона - супер продукт должен хоть чем - то подтвердить свою функциональность.... Говорить, что никто не умеет, не может оттестить СУПЕРПРОДУКТ - это хорошо. Но глупо - не поверят

А зачем тогда результаты тестов по моей методике?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Valery Ledovskoy
что-то или кто-то видит 100%? Кроме НОД32 конечно....

А кто говорил про 100%? Все пропускают. Кто-то больше, кто-то меньше.

Но если мы по одной характеристике и методике всё время получаем 100%, а по остальным 20 тестированиям и методикам получаем 50-70%, то это ли повод успокаиваться? А пользователь успокаивается, потому что VB-авторитетный журнал... и далее по тексту. И напрасно.

Но есть один ответ - неверный детект по Trojan. Rox (обсуждалось уже, он не троян) и лечение удалением - это было круто.

У тех, кто получает значки, таких случаев не было?

Я думаю, на каждый продукт найдётся по крайней мере несколько таких историй. Не показатель ни разу. Увод разговора в сторону.

Никто не говорит, что тот продукт - суперпродукт, а этот - дерьмо.

Речь о том, что тесты могут дезинформировать пользователя. И делают это. Это факт, ибо я отвечаю на вопросы пользователей, индуцированные "тестовой" рекламой. Вопросы типа "Меня всё устраивает, разработчики молодцы, буду и дальше пользоваться вашим продуктом, но почему-то вот тестирования не получаются. Не подскажете ли, почему?" И очень сложно из "тестового" гипноза людей выводить. Но можно.

Потому про три слепых слона - супер продукт должен хоть чем - то подтвердить свою функциональность....

Я говорил про слона и трёх слепцов. Слон - это антивирусный продукт. Слепцы - это тестировщики, которые пытаются его протыкать иглоками. Одни достают чуть глубже, другие не могут даже верхний слой проткнуть (типа VB), но до сути работы антивируса в реальных условиях пока никто не добрался. Хотя, может быть, проткнуть и удастся, и до чего-то достать. А вот что это было? :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
alexgr

про слепцов - эт хорошо. Понравилось. Осталось найти суть. Не изложите?

А то тестим - тестим, оказывается - не нужно. суть где - то в другом месте зарыта..... :P

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

  • Сообщения

    • demkd
      возможность есть, гляну, размер переменных окружения действительно 32767 максимум, но конкретно path больше 4095 это уже может стать проблемой.
    • Ego Dekker
      ESET Online Scanner 4.0.1  (Windows 10/11, 64-разрядная)
                                                                                  ●
              Руководство пользователя ESET Online Scanner 4  (PDF-файл)
    • Ego Dekker
      ESET Cyber Security был обновлён до версии 9.0.6700.
    • AM_Bot
      Теория звучит убедительно, но работает ли она на практике? Мы внимательно изучили Phishman 2.35 и решили не останавливаться на описании её возможностей. Вместо этого протестировали платформу на собственных сотрудниках и удивились, к каким результатам это привело.      1. Введение2. Методология тестирования Phishman 2.353. Первичное тестирование3.1. Подготовка шаблонов фишинговых сообщений, инфраструктуры рассылки3.2. Тестирование доставки и отражения результатов в статистике3.3. Результаты атак4. Обучение4.1. Формирование учебной группы4.2. Составление образовательной программы по повышению киберкультуры4.3. Процесс обучения и его результаты5. Повторное тестирование5.1. Результаты атак6. Подведение итогов6.1. Сложности, с которыми мы столкнулись7. Впечатления от проекта команды «АМ Медиа»7.1. Реакция сотрудников7.2. Реакция организаторов7.3. Сотрудничество с вендором8. ВыводыВведениеPhishman 2.35 — это система повышения осведомлённости пользователей в сфере ИБ. Она помогает развивать киберкультуру и формировать у сотрудников устойчивые навыки безопасной работы с информацией, цифровыми сервисами и корпоративными ресурсами. В процессе обучения сотрудники учатся распознавать актуальные сценарии атак, закрепляют правильные модели поведения и в результате реже становятся причиной инцидентов, связанных с человеческим фактором.В первой части обзора Phishman 2.35 мы рассмотрели платформу с точки зрения её возможностей. Теперь пришло время проверить, как всё это работает на практике. За время проекта мы не только оценили эффективность различных сценариев, но и столкнулись с рядом особенностей, которые невозможно увидеть в документации. Одни из них влияли на ход тестирования, другие оказались скорее организационными нюансами, о которых стоит знать заранее.Методология тестирования Phishman 2.35В процессе работы с киберкультурой «АМ Медиа» мы будем использовать следующие метрики:Обученность. Отражает уровень знаний сотрудников в области ИБ. Показатель растёт, когда сотрудники осваивают темы: реагирование на инциденты, защита от социальной инженерии и другие критически важные компетенции.Иммунность. Показывает, как сотрудники применяют знания на практике. Она повышается, когда демонстрируется способность распознавать угрозы и правильно на них реагировать в реальных сценариях.Киберосознанность — итоговая метрика. Объединяет знания и практические навыки, показывая, насколько сотрудники в целом устойчивы к киберугрозам и действуют корректно при их возникновении.Прежде чем оценивать эффективность работы системы, необходимо определить отправную точку. Первичное тестирование определит, на какие сценарии реагирует каждый сотрудник, где чаще всего допускаются ошибки и какие темы требуют дополнительного развития. На основе этих данных формируется индивидуальная программа обучения: сотрудники проходят персонализированные курсы, выполняют практические задания и тесты, которые помогают устранить выявленные пробелы и закрепить необходимые навыки. В процессе обучения повышается уровень обученности, а закрепление знаний через практику влияет на показатель иммунности. После завершения обучения мы проведём повторное тестирование, которое покажет, какие изменения произошли по всем ключевым метрикам.Заключительный этап — сравнение результатов первичного и повторного тестирования. Здесь станет понятно, насколько вырос уровень киберкультуры сотрудников: изменилось ли их отношение к вопросам ИБ, стали ли они увереннее распознавать угрозы и чаще принимать безопасные решения в ситуациях, где раньше могли допустить ошибку.В качестве основного канала для рассылки фишинга выбрали электронную почту. Причина очевидна: именно она остаётся основным способом первичного контакта злоумышленников с сотрудниками и доставки фишинговых сценариев. По имеющимся оценкам, более 90 % успешных кибератак начинаются с электронного письма, поэтому исключать этот канал из подобных проверок было бы некорректно.Первичное тестированиеРеальные фишинговые атаки почти никогда не строятся по универсальному шаблону: злоумышленники адаптируют содержание писем под роль человека в компании, его рабочие процессы и типовые задачи. Поэтому при выборе целевой аудитории мы разделили сотрудников по функциям и уровню доступа к корпоративным данным, а сам проект разбили на 3 последовательные волны с разным уровнем сложности.Подготовка шаблонов фишинговых сообщений, инфраструктуры рассылкиПосле определения целевой аудитории был проведён анализ структуры подразделений и рабочих процессов сотрудников. На этом этапе изучались:должностные обязанности;распределение зон ответственности;характер внутреннего взаимодействия между отделами;используемые адреса электронной почты;формат повседневной служебной переписки.Это позволило понять, какие сценарии коммуникации являются для сотрудников привычными и не вызывают подозрений.На основе собранных данных были подготовлены сценарии фишинговых сообщений. При разработке содержимого учитывались тематика рабочих задач, стиль корпоративного общения, оформление внутренних уведомлений и типовые причины отправки писем внутри организации. Основная задача заключалась в том, чтобы письмо воспринималось как стандартное рабочее сообщение, соответствующее реальным бизнес-процессам заказчика.Волна 1. Первая волна была построена как массовый фишинг. Сценарий — сверка графика отпусков. Для атаки создавали и настраивали пользовательский шаблон. Тип атаки — обычный, время начала рассылки — сразу, при запуске атаки.На этом этапе проверялась базовая реакция сотрудников на привычные рабочие триггеры и способность распознавать типовые признаки фишинга без привязки к конкретному подразделению. Рисунок 1. Шаблон для первой волны Рисунок 2. Вид фишингового письма из первой волны в почте Волна 2. Для каждого отдела были подготовлены письма, основанные на реальных рабочих процессах, характерных запросах и ситуациях, с которыми сотрудники регулярно сталкиваются в своей деятельности. Для атаки создали и настроили пользовательский шаблон, где-то добавили немного визуального оформления. Время начала рассылки — по запланированному времени. Рисунок 3. Пример шаблона из второй волны для отдела «Продажи» Рисунок 4. Вид фишингового письма из второй волны для отдела «Продажи» Волна 3. Здесь моделировались уже более сложные сценарии целевого фишинга (spear phishing). В письмах использовались специальные формулировки, элементы корпоративного брендирования. На этом этапе проверялась не только внимательность сотрудников, но и способность замечать менее очевидные признаки атаки в условиях, максимально приближённых к реальной целевой компрометации.За основу брали системный брендированный шаблон «Яндекс ID», добавили фишинговую форму и скорректировали немного её содержание. Тип атаки — обычный, время начала рассылки — по запланированному времени. Рисунок 5. Пример шаблона из третьей волны Рисунок 6. Вид фишингового письма из третьей волны При переходе по ссылке открывалась фишинговая страница. Рисунок 7. Фишинговая страница Тестирование доставки и отражения результатов в статистикеДалее была подготовлена инфраструктура рассылки. После её настройки проводилось тестирование доставки сообщений. Проверялась доставка писем во входящие сообщения почтовых клиентов, анализировалась реакция антиспам-механизмов в почте, а также контролировалась корректность работы механизмов отслеживания действий пользователей. Рисунок 8. Результаты тестирования доставки и отображения сообщений в почте Тестирование прошло успешно.После завершения проверки была сформирована последовательность отправки сообщений по заранее определённым волнам. Такой подход позволил распределить нагрузку, контролировать ход тестирования и отслеживать реакцию сотрудников на различных этапах проведения проверки. Рисунок 9. Активные мероприятия Результаты атакБыли получены следующие результаты:Иммунность — 81 %. Хороший иммунитет, большинство реагирует правильно. Охват аудитории (повторно попались на фишинг) — 71 %.Уровень риска — 8, средний. Устойчивость формируется, но есть ещё риски. Рисунок 10. Общая информация после проведения первичного тестирования Самый низкий уровень иммунности — около 50 %, после первых двух волн атак. Рисунок 11. График иммунности во время первичного тестирования Далее — сформировали в системе отчёт по скомпрометированности сотрудников, на основании которого выполнили самостоятельный анализ результатов по отделам без учёта результатов тестирования шаблонов атак. Рисунок 12. Отчёт по скомпрометированности всех сотрудников в Phishman 2.35 Таблица 1. Результаты первичного тестирования по отделамОтделЗаполнили формуОткрыли вложенияОткрыли ссылкуДокументооборот04,76 %4,76 %Продажи04,76 %9,52 %Продюсеры 0023,8 %Редакция0019,04 %Руководитель000 ОбучениеПервичное тестирование завершено, поэтому следующим этапом стало определение группы риска и формирование программы обучения.Формирование учебной группыНа этапе отбора рассматривались два варианта формирования учебной группы. Первый предполагал использование показателя иммунности сотрудников. Второй вариант заключался в создании правила, автоматически формирующего список сотрудников, которые были скомпрометированы в ходе проведённых проверок. Этот подход позволял сразу получить выборку пользователей, продемонстрировавших наибольшую подверженность атакам, без ожидания обновления показателей.Был выбран второй вариант. На основании созданного правила была сформирована группа для обучения: в неё вошли люди, которые были скомпрометированы в ходе первичного тестирования. Рисунок 13. Создание правила для выявления группы риска Рисунок 14. Отчёт по отработанному правилу для выявления группы риска Отдельно была сформирована группа сотрудников, успешно распознавших фишинговую атаку, для участия в обучении, направленном на поддержание киберкультуры.Составление образовательной программы по повышению киберкультурыПопавшиеся сотрудники были включены в отдельную учебную группу, для которой сформировали персональную образовательную траекторию. В неё вошли 3 микрокурса по фишингу и 1 курс по информационной безопасности. Содержание траектории было направлено на повышение устойчивости к методам социальной инженерии и снижение вероятности компрометации учётных данных. Рисунок 15. Заполнение параметров обучения сотрудников Рисунок 16. Составление учебной программы Отдельно была запущена программа обучения для сотрудников, которые не попали в выборку по результатам правила.Процесс обучения и его результатыПервый отчёт мы сформировали через 2 дня после запуска обучения, что позволило получить предварительную оценку вовлечённости сотрудников. Анализ данных показал, что наибольшую активность на начальном этапе продемонстрировали сотрудники, которые попались на фишинг. Рисунок 17. Промежуточный анализ обучения Через неделю после запуска обучения провели повторный анализ прогресса, включая оценку прохождения курсов и выявление участников, не приступивших к обучению. Рисунок 18. Отчёт по динамике обучения в Phishman 2.35 Анализ показал, что часть сотрудников не завершила обучение в установленный срок. Для обеспечения максимального охвата было принято решение о продлении сроков прохождения курсов. Рисунок 19. Продление и корректировка процесса обучения В результате фактическая продолжительность обучения составила 2 недели, что превысило первоначально установленный срок в одну неделю. Но и этого времени не хватило нашим сотрудникам. Чтобы узнать, кто оказался более ответственным, воспользовались возможностями правил. Рисунок 20. Пример настройки правила по выявлению сотрудников, прошедших обучение В результате была получена информация о сотрудниках, полностью и частично прошедших обучение. Рисунок 21. Отчёт по сработанному правилу по выявлению сотрудников, прошедших обучение Рисунок 22. Отчёт по сработанному правилу по выявлению сотрудников, частично прошедших обучение Результаты обучения:полностью прошли обучение — 52 %;частично — 22 %;не прошли обучение — 26 %.Мы проанализировали список сотрудников, не приступивших к обучению, и выяснили, что это те, кто не попался на фишинг во время первичного тестирования.Среди сотрудников, которые попались на фишинг, 80 % прошли обучение, остальные — прошли его частично. Рисунок 23. Результаты обучения сотрудников «АМ Медиа» Вместе с тем за этот период были зафиксированы положительные изменения в ключевых показателях: уровень обученности достиг 9 319 баллов, а показатель киберосознанности — 7 561 баллов. Несмотря на положительную динамику, полученные значения оставались гораздо ниже целевых ориентиров, что свидетельствует о необходимости дальнейшей работы по повышению вовлечённости сотрудников и развитию киберкультуры.Повторное тестированиеПовторное тестирование проводилось по тем же этапам, что и первичное: подготовка шаблонов, тестирование и проведение атак. Как и на первом этапе, основной задачей было сделать письмо максимально похожим на стандартную рабочую переписку, соответствующую реальным бизнес-процессам нашей компании.Подготовительный этап повторного тестирования потребовал дополнительных временных затрат, связанных с регистрацией новых доменов и расширением сценариев атак с учётом результатов первичного тестирования.Волна 1. Сценарии формировались не только для отдельных подразделений, но и адресно для конкретных сотрудников, что позволило повысить реалистичность и точность имитации фишинговых атак. Запустили несколько атак, для каждой из них были разработаны индивидуальные шаблоны электронных писем и соответствующие фишинговые формы. Тип атаки — обычный, время начала рассылки — по запланированному времени. Рисунок 24. Пример фишингового письма для первой волны Рисунок 25. Пример фишинговой формы для письма из первой волны Волна 2. Вторая волна представляла собой массовую фишинговую кампанию. Для неё был создан и настроен пользовательский шаблон, основанный на триггерах срочности и страхе финансовых потерь. Тип атаки — обычный, время начала рассылки — сразу, при запуске атаки. Рисунок 26. Пример фишингового письма для второй волны Тестирование доставки писем и корректности отражения результатов в статистике прошло успешно.Результаты атакВ повторном тестировании приняли участие уже 23 человека. Увеличение числа участников на 2 человека связано с подключением новых сотрудников к нашему эксперименту. Резких скачков иммунности здесь не наблюдалось. Рисунок 27. График иммунности во время повторного тестирования Для дополнительной оценки мы и здесь также выполнили самостоятельный анализ результатов по отделам без учёта результатов тестирования шаблонов атак. Таблица 2. Результаты повторного тестирования по отделамОтделЗаполнили формуОткрыли вложенияОткрыли ссылкуДокументооборот000Продажи008,7 %Продюсеры 008,7 %Редакция8,7 %08,7 %Руководитель000 Мы также посмотрели, как себя показали сотрудники, которые не прошли обучение, в повторном фишинговом тесте. По данным отчёта, в первой волне повторного тестирования на фишинг попались 40% из всех, кто не обучался. Рисунок 28. Поиск информации о сотруднике в отчёте по атакам Подведение итогов После завершения всех этапов эксперимента мы получили следующие показатели:Иммунность — 76 %. Хороший иммунитет, большинство реагирует правильно. Охват аудитории (повторно попались на фишинг) — 91,3 %.Уровень риска — 7, средний. Рисунок 29. Информационная панель Phishman 2.35 после завершения эксперимента После обучения и повторного тестирования добавились другие показатели:Обученность — 11 / 100. Знания отсутствуют, обучение следует начать с базового уровня.Киберосознанность — 10 / 100. Низкий уровень, сотрудники не знают, как действовать в случае угроз.Часть результатов сравнили и представили их в таблице ниже. Таблица 3. Сравнение показателей киберкультуры до и после обученияПоказательДо обученияПосле обученияОбученность09319Иммунность81 %76 %Киберосознанность 07561Охват аудитории (повторно попались на фишинг)71 %91,3 %Уровень риска87 Также проанализировали действия сотрудников после обучения и сравнили их с результатами первичного тестирования. Таблица 4. Сравнение действий сотрудников до обучения и послеОтделЗаполнили формуОткрыли вложенияОткрыли ссылкуДо обученияПосле обученияДо обученияПосле обученияДо обученияПосле обученияДокументооборот004,76 %04,76 %0Продажи004,76 %09,52 %8,7 %Продюсеры 000023,8 %8,7 %Редакция08,7 %0019,04 %8,7 %Руководитель000000 Рисунок 30. Процент попавшихся на фишинг до обучения и после по отделам Если во время первичного тестирования попалось 22 % участников, то после обучения этот показатель уменьшился и стал 12 %. Рисунок 31. Общий процент попавшихся на фишинг до обучения и после Результаты повторного тестирования показали, что, несмотря на заметное снижение количества взаимодействий с фишинговыми письмами, часть сотрудников по-прежнему выполняет действия, свидетельствующие о подверженности атакам. Это ожидаемый результат, поскольку киберкультуру невозможно сформировать за столь короткое время. Речь идёт о длительном процессе, который требует регулярной работы как со стороны специалистов по информационной безопасности, так и со стороны самих сотрудников.Наш эксперимент позволил проверить знания сотрудников, провести обучение и затем оценить, насколько полученные знания закрепились на практике. Однако с точки зрения развития киберкультуры — это лишь один из этапов работы, а не её завершение.Сложности, с которыми мы столкнулисьОсобенность нашего эксперимента — организация предварительного тестирования. Перед запуском каждой атаки мы проверяли её работу на собственном аккаунте, чтобы убедиться в корректной отработке сценария на стороне пользователя. Такие проверки попадали в общую статистику системы и оказывали влияние на итоговые показатели. Возможность исключить подобные события из расчётов отсутствует. Согласно комментариям вендора, для этих целей следует использовать отдельный тестовый стенд. Поэтому мы вели дополнительно самостоятельный анализ результатов эксперимента.Отдельные сложности возникли на этапе обучения сотрудников. Завершить обучение в установленные сроки не удалось из-за человеческого фактора. Не все участники смогли своевременно пройти назначенные материалы, что потребовало увеличения периода обучения и дополнительного контроля за его прохождением.Впечатления от проекта команды «АМ Медиа»Проведение тестирования не вызвало негативной реакции со стороны сотрудников. Хотя фишинговые сообщения активно обсуждались внутри коллектива, жалоб руководству или недовольства вида «зачем вообще было устраивать такую проверку» не возникло. Основной интерес был сосредоточен вокруг самих писем и попыток понять, что именно происходит.Реакция сотрудниковОдним из самых любопытных наблюдений стала реакция сотрудников после первой волны первичного тестирования. Полученные фишинговые сообщения быстро стали предметом обсуждения: сотрудники пересылали их друг другу, задавали вопросы коллегам и пытались разобраться, что происходит.Некоторые пошли ещё дальше и вступали в переписку с отправителем, воспринимая фишинговые письма как реальные рабочие сообщения. Это наглядно показало не только убедительность используемых сценариев, но и то, что практическое столкновение с угрозой вовлекает сотрудников в тему ИБ гораздо сильнее, чем абстрактные примеры из учебных материалов. Во время повторного тестирования такой реакции уже не возникло.Реакция организаторовЕсли для большинства сотрудников тестирование выглядело как неожиданно появившиеся письма в почте, то для команды, которой было поручено тестирование Phishman 2.35 этот проект сопровождался совсем другими эмоциями. Подготовка сценариев, запуск атак и ожидание результатов вызывали ощутимое волнение. Оказалось, что смотреть на ситуацию глазами злоумышленника не так просто, как может показаться со стороны. Приходилось постоянно задавать себе вопросы: какой сценарий покажется правдоподобным, что привлечёт внимание сотрудника, а что, наоборот, вызовет подозрения.Самыми напряжёнными были дни первой волны тестирования. На этом этапе ещё не было понимания, как сотрудники отреагируют на рассылки, насколько убедительными окажутся сценарии и не вызовет ли проверка негативной реакции внутри коллектива. С каждой новой зафиксированной активностью интерес смешивался с тревогой, а результаты ожидались едва ли не с большим нетерпением, чем сам запуск кампании.После завершения эксперимента стало легче: всё задуманное удалось реализовать, результаты были получены и проанализированы. Тем не менее полностью избавиться от мыслей о проделанной работе не получилось. Время от времени возвращаешься к отдельным этапам и задаёшься вопросом: а стоило ли сделать именно так? Может быть, какой-то сценарий можно было построить иначе, а какие-то решения принять по-другому?Наверное, это естественная часть любого практического проекта. Когда работа заканчивается, появляется возможность посмотреть на неё со стороны и критически оценить собственные решения. Именно в такие моменты часто приходят идеи, которые помогают сделать следующие проекты лучше.Сотрудничество с вендоромВ ходе подготовки и проведения эксперимента иногда возникали вопросы, связанные с настройкой платформы, особенностями реализации отдельных сценариев и интерпретацией результатов. Для их решения использовались как переписка, так и рабочие созвоны. Запросы обрабатывались оперативно, что позволяло своевременно получать необходимую информацию и не допускать задержек в выполнении работ. Поддержка была доступна не только в рабочее время, но и в выходные дни.ВыводыПовторное тестирование показало, что тщательно подготовленные и персонализированные фишинговые атаки значительно эффективнее. При наличии качественной разведки злоумышленники способны подобрать убедительный сценарий практически для любого сотрудника. А если специалист может ошибиться, то сотруднику, который не занимается вопросами ИБ каждый день, сделать это ещё проще.Работа в сфере информационной безопасности или информационных технологий сама по себе не защищает человека от фишинга, социальной инженерии и других современных атак. Мы убедились в этом на собственном опыте: даже профильные знания не гарантируют, что человек не попадется на хорошо продуманную атаку. Злоумышленники постоянно меняют сценарии, поэтому знания, полученные однажды, быстро устаревают.При помощи эксперимента мы не только проверили, насколько сотрудники готовы распознавать атаки, но и поняли, как с помощью Phishman 2.35 можно сделать работу по развитию киберкультуры системной. Вместо отдельных курсов появился понятный цикл: смоделировать атаку, оценить реакцию, провести обучение и проверить, изменилось ли поведение участников. При необходимости — повторить или скорректировать процесс при помощи рекомендаций платформы. Результаты фиксируются автоматически, поэтому можно видеть, какие темы требуют больше внимания, и развивать киберкультуру на основе реальных данных, а не предположений.Читать далее
    • PR55.RP55
×