Тест Internet Security-решений для Windows Vista на cnews - Страница 2 - Тесты и сравнения - Форумы Anti-Malware.ru Перейти к содержанию
Иван

Тест Internet Security-решений для Windows Vista на cnews

Recommended Posts

Виталий Я.
Тратить время на повторные прогоны для съемки роликов мы не будем. Ролик ничем недоказательней скрина, можно сделать любую нарезку. Давайте немного подождем до реакции Cnews. А затем продолжим наше обсуждение.

Олег, мы тоже потратили время тестеров на воспроизведение удручивших Вас результатов KIS и подтверждение результатов OSS. Пока Вы ничем не доказали обратного - что KIS 7 проходит Atelier FW test, только представили сомнительного происхождения скриншот.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Олег Гудилин

Виталий, еще раз - подождите немного и я расскажу Вам и всем остальным о "сомнительного происхождения скриншоте" и обо всем остальном. Если Вам не терпится, можете выкатить Ваши результаты когда пожелаете. Я буду их комментировать и приводить свои только услышав решение Cnews.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Stuart

Internet Security? То есть, полагаю, должен быть а антивирусный модуль. Но в плане доверия к антивирусной составляющей Agnitum, простите, нет никакого. К тому же ставил как-то чисто фаейрвол на Vista: получил жутчайшие тормоза системы (рейтинг производительности 5,5) и через пару загрузок - ваша копия Windows не является подлинной (при том, что имеется лицензия Buisness Edition).

Так что "ф топку" таких победителей. Кроме KIS, пожалуй, более лучшего решения не найти. Личный опыт.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Олег Гудилин
К тому же ставил как-то чисто фаейрвол на Vista: получил жутчайшие тормоза системы (рейтинг производительности 5,5) и через пару загрузок - ваша копия Windows не является подлинной (при том, что имеется лицензия Buisness Edition).

Это какая-то частная проблема. Outpost Firewall решение весьма достойное.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Stuart

Для XP, и как firewall это достойное решение. Но не комплексное. Как судить о качестве детектирования продукта, который освоил эту деятельность года 2 назад?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Олег Гудилин

Вернулся наконец в офис, как и обещал комментарии по тесту. Я считаю это уместным, поскольку Михаил Демидов опубликовал результаты теста в блоге и продолжает утверждать, что тест абсолютно нормальный. Его активно поддерживает в этом Виталий Янко.

1. Тест фаервола, а именно та часть теста, где использовалась утилита AFWT.

Мы согласны с результатами тестирования утилитой AFWT.

Я прошу прощения у Михаила Демилова и у сообщества в целом за непредумышленное введение в заблуждение (как я и говорил Вам Михаил у меня проблем с принесением извинений нет).

Я приводил выше скриншот, который получен при соединении через наш корпоративный proxy на vista32SP1. При дальнейшем разбирательстве выяснилось, что к нашему удивлению результат зависит от типа соединения.

Для ясности приведу результаты перепроверок, проведённых нашими инженерами:

Результаты тестов, используя различные методы подключению к интернет и различные версии ОС Vista (32, 64. 32SP1):

Через proxy (vista32SP1): 10:0 (результат на моём скриншоте)

Через непроксированный Ethernet (vista32SP1): 4:6 (результат полученный Михаилом Демидовым и подтвержденный у нас)

Через dial-up (vista64): 9:1

Через непроксированный Ethernet (vista64): 8:2

Чем вызвана подобная нестабильность - нашим продуктом или AFWT времени в данный момент изучать нет. Поэтому мы согласны с результатами.

2.Антивирусная часть теста

Мы категорически не согласны с методикой проведения теста.

a. Объем коллекции

не позволяет рассматривать их как объективный источник информации о качестве антивирусов. Размер коллекций чудовищно мал, всего несколько тысяч образцов. На такой коллекции можно получить абсолютно ЛЮБЫЕ результаты, не имеющие ничего общего с реальной ситуацией, коллекции таких объемов просто нерепрезентативны. Я не говорю даже о том, что такую коллекцию легко подогнать под любого вендора, я говорю о случайном перекосе вызванным малым количеством образцов.

Есть некоторые тесты, которые можно и нужно проводить на небольших коллекциях специальным образом отобранных образцов, это тесты на лечение активного заражения и тесты антируткит-технологий. Но это никак не тесты на общий уровень обнаружения.

Собственно такая же ситуация с количестовм образцов в коллекции VB100%, но у VB100% есть одно важное преимущестово, которого нет в данном случае, а именно пункт б.

б.Качество коллекции

В присланной нам коллекции содержалось 2172 файла, включая содержащиеся в архиве Generals_DualCDKeyFixer_Final.rar

Мы проверили данную коллекцию KIS 7.0.1.325 с максимальными настройками и базами сигнатур от 2008.05.15 22-33.

Оказалось:

- 1977 файлов обнаруживаются KIS;

- 29 файлов действительно реальных зловредов, которые мы пропустили – будут добавлены в наши базы;

- 42 спорных файла, которые требуют дополнительного изучения каждого конкретного экземпляра. Дело в том, что это так называемые программы рекламного характера (Adware). Они не несут никакого вредоносного или шпионского (spyware) функционала и решение о добавление их в базы принимается нами каждый раз индивидуально в зависимости от: их распространенности, конкретного функционала, запросов от пользователей на их детект и т.д.;

- 108 чистых файлов, детектирование которых каким-либо антивирусом является ложным срабатыванием;

- 16 битых неработоспособных файлов вредоносных программ. Мы, как и большинство других антивирусных компаний считаем, что подобный мусор мы детектировать не должны, поскольку вреда пользователям принести такие файлы не могут, а добавление их в базы только увеличивает их размер и время проверки на вирусы. Соответственно, специально заносить сигнатуру для их обнаружения в базу никто не будет. Эти файлы могут детектироваться рядом антивирусов, но это не специальный ”точный” детект на этот битый файл. Дело в том, что сигнатура, детектирующая работоспособный вредонос, может быть так написана, что она ловит и битый файл этого зловреда. Или эвристики ловят не только работоспособный файл, но и битый. Включать такие битые файлы в коллекции для тестирования нельзя и все известные исследовательские организации (AV-Comparatives, AV-Test) стараются очень тщательно отслеживать их и исключать из своих коллекций.

Итого, 124 файла из коллекции мы не детектируем совершенно справедливо и специально добавлять в базы не будем (возможно только случайное детектирование ряда экземпляров эвристиком или расширенной сигнатурой). При этом надежность нашей системы от этого не пострадает – эти файлы не представляют никакой опасности.

Надо отметить, что кроме откровенно нормальных и битых файлов, в число этих 124 входят кейгены, патчи, uninstaller'ы и другие подобные программы, обнаружение которых никакого отношения к защите компьютера не имеет. Мы боремся с вредоносными программами, а не с пиратством. В функции наших продуктов не входит удаление и блокирование кейгенов или uninstaller'ов, позволяющих использовать нелицензионное ПО.

Нас очень удивило, что эти файлы были отдельно добавлены к уже сформированной ранее вирусной коллекции: имя каждого файла, входящего в основную часть коллекции, это его контрольная сумма. Эти же дополнительные файлы имеют совершенно другие произвольные названия.

Возникают вопросы:

Зачем эти файлы добавлены в коллекцию?

На чем основано предположение, что антивирус должен их считать вредоносными или опасными?

В итоге файлов, которых нужно детектировать (даже если отнести туда спорные, что, по сути, неверно) в коллекции 2048 (без спорных 2006). Обнаруживали мы из них на момент проведения теста 1977. Уровень обнаружения - 96,53% (без спорных 98,55%). Но мы еще раз хотим подчеркнуть, что даже этот результат на уже вычищенной коллекции не может служить критерием качества антивируса, поскольку коллекция слишком для этого мала.

в. Критерий выбора 100 образцов из общего набора для тестирования on-access (монитора) нам непонятен в принципе. Почему 100, а не все (хотя и 2000 тоже мало для объективного анализа)? Как их отбирали?

Все это делает на наш взгляд антивирусную часть теста некорректной. Утверждения Михаила в форумах, что тесты Cnews делаются для домохозяек мне так же непонятны. В тестах для домохозяек можно позволить себе некорректную методологию?

Решение о дальнейшей судьбе теста целиком и полностью в руках издания, наше дело изложить факты, которые мы считаем нужным изложить.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Виталий Я.
Вернулся наконец в офис, как и обещал комментарии по тесту. Я считаю это уместным, поскольку Михаил Демидов опубликовал результаты теста в блоге и продолжает утверждать, что тест абсолютно нормальный. Его активно поддерживает в этом Виталий Янко.

Михаил утверждает, что в рамках его компетенции он проводит "тесты для домохозяек" - те тесты, которые можно повторить в домашних условиях, как мне понятно. Смысловая нагрузка несколько иная.

1. Тест фаервола, а именно та часть теста, где использовалась утилита AFWT.

Мы согласны с результатами тестирования утилитой AFWT.

...

Через непроксированный Ethernet (vista32SP1): 4:6 (результат полученный Михаилом Демидовым и подтвержденный у нас)

Итак, все-таки журналист CNews обладает достаточной компетентностью для проведения ликтеста, и наши данные также не врут. Это радует.

2.Антивирусная часть теста

...

В присланной нам коллекции содержалось 2172 файла, включая содержащиеся в архиве Generals_DualCDKeyFixer_Final.rar

Мы проверили данную коллекцию KIS 7.0.1.325 с максимальными настройками и базами сигнатур от 2008.05.15 22-33.

Мы получили информацию от Cnews, что тест проводился 7-8 мая, и мы проверяли результаты на коллекциях от 6 мая.

Когда тест сняли и получили подборку, в ЛК решили проверить ее на базах, выпущенных через неделю после теста?

Вообще на моей памяти за последний год это первый случай, когда журналисты-тестировщики антивирусных решений передают свои коллекции в лаборатории, и они заново их исследуют. По тесту 3DNews, надеюсь, опровержение от ЛК тоже выйдет? У вас наверняка с ними хорошие связи.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Олег Гудилин
Мы получили информацию от Cnews, что тест проводился 7-8 мая, и мы проверяли результаты на коллекциях от 6 мая. Когда тест сняли и получили подборку, в ЛК решили проверить ее на базах, выпущенных через неделю после теста?

Виталий, нам было сказано, что тест проводился в середине мая. Видимо Вы получаете более точную информацию. Но смею Вас уверить, что эта неделя по сути ничего не изменит в сказанном мной выше: количественные и качественные характеристики коллекции неудовлетворительны.

Нас очень мало интересует наши точные до сотых результаты на вычищенной коллекции, наш основной посыл - так тестировать нельзя.

Вообще на моей памяти за последний год это первый случай, когда журналисты-тестировщики антивирусных решений передают свои коллекции в лаборатории, и они заново их исследуют.

Если производитель чего-либо категорически не согласен с результатами теста и с его методологией - запрашивать данные для воспроизведения теста нормальная общепринятая практика - иначе доказать свою правоту производитель не сможет.

А на тему того, что мы лишили тестера коллекции, могу повторить еще раз:

1.качественные и количественные характеристики коллекции не позволяют считать ее адекватной

2.если автор по прежнему считает, что для теста на общий детект достаточно несколько тысяч вирусов и непонятно как отобранных 100 вирусов для тестирования монитора - чтож это его право заблуждаться. В текущей ситуации с количеством вновь появляющихся каждый день зловредов заново подобрать подобную коллекцию не составляет никакого труда.

3.для тестов нельзя использовать все время одну и ту же коллекцию, тесты нужно проводить на вирье распространенном в некий не сильно удаленный от теста период времени. Так что если автор хочет заблуждаться дальше - пусть хотя бы соберет более свежую коллекцию.

По тесту 3DNews, надеюсь, опровержение от ЛК тоже выйдет? У вас наверняка с ними хорошие связи.

Виталий, я уже по-моему ясно и четко сказал здесь и в теме про тест 3DNews: все тесты на неясно как собранных коллекциях минимального объема не могут считаться объективными. Мы приняли решение провести дополнительные изыскания по тесту Cnews по 2 причинам:

1. Результаты теста ставили нас фактически на последнее или предпоследнее место по детекту зловредов среди тестируемых. Если бы при этом тест проводился по адекватной методологии - мы бы занялись исправлением ошибок, но это не тот случай. Именно поэтому необходимо было расставить все точки над i.

2. Вы, Виталий, лично продвигали и продолжаете продвигать в массы мысль, что тесты, проведенные по подобной методологии, полностью адекватны. Что нам показалось как минимум странным. И это был еще один важный повод начать подробное изучение вопроса.

Этих 2 пунктов мы не видим в случае теста 3DNews, поэтому тратить время на его исследование мы не будем.

А раз Вам совершенно неожиданно порочная методология тестирования на минимальных непонятно как собранных коллекциях вдруг резко перестала нравиться, как только продукт Вашей компании в тесте занял не первое место - так и разбирайтесь сами.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Виталий Я.

Олег, не передергивайте. Я в данном случае упирал на то, что тест фаерволов, который в итоге оказался верным, как составляющая теста решений класса _Internet-Security_ - адекватен. Этот компонент теста вы в итоге признали реальным.

В то же время тест на детект вредоносин - уже дело второе, для нас решенное еще в апрельском тесте 4-х антивирусных продуктов (его мы детальному анализу не подвергали) - тест наверняка наследовал вот этому http://soft.cnews.ru/articles/safe/120/

Да, и предыдущий, и текущий тест антивирусных компонентов для нас тоже был под вопросом, пока не перетестировали подборку сами, обнаружив в ней пару ликтестов и с сотню кряков и кейгенов (подробные логи приводить не буду, данные близки к данным ЛК, но мы считаем кейгены потенциально опасными и алертим, как и Симантек с Нодом). Но пока вы не настояли на том, чтобы снять этот тест с публикации (по крайней мере, не повлияли на это прямо или косвенно), мы тоже не занимались этим вопросом вплотную.

Повторюсь, нам не нравятся многие тестирования антивирусных решений, включая Outpost, по "рюшечкам" в интерфейсе и "опыте в выпуске антивирусов", которые дают какие-то сумбурные и субъективные оценки продуктам, технологии защиты в которых работают в непривычном аспекте. Именно поэтому мы ухватились за тест CNews и за тест 3Dnews. Разница между ними все-таки имеется - при одинаков недостаточных выборках есть беда не столько с составом коллекции, сколько с логикой, в рамках которой разница в 1% детекта на сверхмалой подборке представляется провалом, в то время как на другой коллекции победителя так и не выявляют. Поэтому нас волнует отсутствие в печати 1го текста и наличие 2го, хотя в целом он не так плох как ревью.

Да, изначально порочна практика, сбора данных для тестирования невесть где и верификации невесть как и кем. С одной стороны, это показатель профессиональной подготовки авторов одного конкретно взятого издания, с другой стороны - показатель неумения/нежелания или невозможности донести до представителей СМИ, как тестировать те или иные продукты. Четкие указания в виде "Complete Idiot's Guide" по тестированию АВ-продуктов очень нравятся прессе, не забудьте.

Кстати, когда даже на Anti-Malware.ru не находится человека, готового тестировать АВ-решения на быстродействие на Vista... Это говорит как минимум о трудоемкости теста. И о том, что за свои гонорары авторы вряд ли готовы свернуть горы, в отличие от AV-test и AV-comparatives.

Так что, Олег, давайте будем воистину проактивными в подготовке тестирований наших продуктов, чтобы не было грубых ляпов и не пришлось реагировать на них как на грубое искажение реальности.

И вот только со сбором коллекций вопрос, полагаю, так и останется открытым еще надолго - от кого и на каких условиях авторы будут получать malware и как его верифицировать?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Олег Гудилин

Виталий, я не передергиваю. Это ведь цитата касается антивирусной части теста?

Что касается подборки для теста, мне тоже все ясно - ваша 7-ка с Vista SP1 не "сдружилась", а наша 6-ка смогла, и при детекте по требованию с 1-процентным перевесом в вашу пользу сейчас ваша 7-ка безбожно сглючила "на лету". Хотя на этом форуме иного мнения, кроме мнения в поддержку ЛК, не приемлют.
Так что, Олег, давайте будем воистину проактивными в подготовке тестирований наших продуктов, чтобы не было грубых ляпов и не пришлось реагировать на них как на грубое искажение реальности.

И вот только со сбором коллекций вопрос, полагаю, так и останется открытым еще надолго - от кого и на каких условиях авторы будут получать malware и как его верифицировать?

Я, Виталий, предлагаю при встрече (надеюсь она будет скорой) за кружечкой чего-нибудь вкусного обсудить эту проблему, попытаться сформулировать пути решения.

На мой взгляд существуют пути решения проблемы хотя бы сбора самплов (сети провайдеров и крупных компаний). В любом случае при больших объемах коллекций влияние "брака" должно уменьшится. А с верификацией могут и вендоры помочь, можно просто базы морозить перед верификацией, чтобы никто повлиять не смог.

Нужно начинать простраивать систему российского тестирования, но тесты аналогичные данному не очень хорошее начало.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Виталий Я.
Виталий, я не передергиваю. Это ведь цитата касается антивирусной части теста?

Цитата - не более чем мое эмоциональное отношение к результатам всего теста (ликтесты в ней маячат между строк, ибо 4-6), в детали я не вдавался на тот момент. После детального анализа очевидно, что в ней могло быть и поменьше эмоций. Так что извините, ввел в заблуждение.

И тем не менее соглашусь, что формировать коллекции для весомых тестов нужно более взвешенно и при активном наблюдении со стороны вендоров. Но тут характер общения с прессой таков, что с изданиями либо ругаются постфактум, либо просто машут рукой "что с них взять, они непрофессионалы", а еще втихую можно пригрозить рекламу снять (известны прецеденты, ну да не о них мы). А вот такую бизнес-этику нужно менять, ведь когда журналисты боятся описывать или тестировать - это не свобода слова, это черт знает что.

Непрофессионалов - учить, наталкивать "на путь истины", "натаскивать" :)

Особо невменяемых - отстреливать (но это крайний случай).

Ибо в дальней перспективе Avast! Home Edition, AVG Free, Avira Antivir Personal и пока еще далекий от совершенства Comodo Anti-Malware могут в определенный момент "убить" рынок коммерческих антивирусных продуктов для дома (мы уже почувствовали на себе давление со стороны Comodo Firewall).

Так что обсуждать за кружечкой есть смысл многое - но не только нам, но и нашим аналитикам и техническим директорам. Попробуем это провернуть летом - я так полагаю, Вы предложите в Москве, хотя "уж лучше вы к нам". В крайнем случае - отложим до осеннего ISDEF.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

  • Сообщения

    • Ego Dekker
      ESET Online Scanner 4.0.1  (Windows 10/11, 64-разрядная)
                                                                                  ●
              Руководство пользователя ESET Online Scanner 4  (PDF-файл)
    • Ego Dekker
      ESET Cyber Security был обновлён до версии 9.0.6700.
    • AM_Bot
      Теория звучит убедительно, но работает ли она на практике? Мы внимательно изучили Phishman 2.35 и решили не останавливаться на описании её возможностей. Вместо этого протестировали платформу на собственных сотрудниках и удивились, к каким результатам это привело.      1. Введение2. Методология тестирования Phishman 2.353. Первичное тестирование3.1. Подготовка шаблонов фишинговых сообщений, инфраструктуры рассылки3.2. Тестирование доставки и отражения результатов в статистике3.3. Результаты атак4. Обучение4.1. Формирование учебной группы4.2. Составление образовательной программы по повышению киберкультуры4.3. Процесс обучения и его результаты5. Повторное тестирование5.1. Результаты атак6. Подведение итогов6.1. Сложности, с которыми мы столкнулись7. Впечатления от проекта команды «АМ Медиа»7.1. Реакция сотрудников7.2. Реакция организаторов7.3. Сотрудничество с вендором8. ВыводыВведениеPhishman 2.35 — это система повышения осведомлённости пользователей в сфере ИБ. Она помогает развивать киберкультуру и формировать у сотрудников устойчивые навыки безопасной работы с информацией, цифровыми сервисами и корпоративными ресурсами. В процессе обучения сотрудники учатся распознавать актуальные сценарии атак, закрепляют правильные модели поведения и в результате реже становятся причиной инцидентов, связанных с человеческим фактором.В первой части обзора Phishman 2.35 мы рассмотрели платформу с точки зрения её возможностей. Теперь пришло время проверить, как всё это работает на практике. За время проекта мы не только оценили эффективность различных сценариев, но и столкнулись с рядом особенностей, которые невозможно увидеть в документации. Одни из них влияли на ход тестирования, другие оказались скорее организационными нюансами, о которых стоит знать заранее.Методология тестирования Phishman 2.35В процессе работы с киберкультурой «АМ Медиа» мы будем использовать следующие метрики:Обученность. Отражает уровень знаний сотрудников в области ИБ. Показатель растёт, когда сотрудники осваивают темы: реагирование на инциденты, защита от социальной инженерии и другие критически важные компетенции.Иммунность. Показывает, как сотрудники применяют знания на практике. Она повышается, когда демонстрируется способность распознавать угрозы и правильно на них реагировать в реальных сценариях.Киберосознанность — итоговая метрика. Объединяет знания и практические навыки, показывая, насколько сотрудники в целом устойчивы к киберугрозам и действуют корректно при их возникновении.Прежде чем оценивать эффективность работы системы, необходимо определить отправную точку. Первичное тестирование определит, на какие сценарии реагирует каждый сотрудник, где чаще всего допускаются ошибки и какие темы требуют дополнительного развития. На основе этих данных формируется индивидуальная программа обучения: сотрудники проходят персонализированные курсы, выполняют практические задания и тесты, которые помогают устранить выявленные пробелы и закрепить необходимые навыки. В процессе обучения повышается уровень обученности, а закрепление знаний через практику влияет на показатель иммунности. После завершения обучения мы проведём повторное тестирование, которое покажет, какие изменения произошли по всем ключевым метрикам.Заключительный этап — сравнение результатов первичного и повторного тестирования. Здесь станет понятно, насколько вырос уровень киберкультуры сотрудников: изменилось ли их отношение к вопросам ИБ, стали ли они увереннее распознавать угрозы и чаще принимать безопасные решения в ситуациях, где раньше могли допустить ошибку.В качестве основного канала для рассылки фишинга выбрали электронную почту. Причина очевидна: именно она остаётся основным способом первичного контакта злоумышленников с сотрудниками и доставки фишинговых сценариев. По имеющимся оценкам, более 90 % успешных кибератак начинаются с электронного письма, поэтому исключать этот канал из подобных проверок было бы некорректно.Первичное тестированиеРеальные фишинговые атаки почти никогда не строятся по универсальному шаблону: злоумышленники адаптируют содержание писем под роль человека в компании, его рабочие процессы и типовые задачи. Поэтому при выборе целевой аудитории мы разделили сотрудников по функциям и уровню доступа к корпоративным данным, а сам проект разбили на 3 последовательные волны с разным уровнем сложности.Подготовка шаблонов фишинговых сообщений, инфраструктуры рассылкиПосле определения целевой аудитории был проведён анализ структуры подразделений и рабочих процессов сотрудников. На этом этапе изучались:должностные обязанности;распределение зон ответственности;характер внутреннего взаимодействия между отделами;используемые адреса электронной почты;формат повседневной служебной переписки.Это позволило понять, какие сценарии коммуникации являются для сотрудников привычными и не вызывают подозрений.На основе собранных данных были подготовлены сценарии фишинговых сообщений. При разработке содержимого учитывались тематика рабочих задач, стиль корпоративного общения, оформление внутренних уведомлений и типовые причины отправки писем внутри организации. Основная задача заключалась в том, чтобы письмо воспринималось как стандартное рабочее сообщение, соответствующее реальным бизнес-процессам заказчика.Волна 1. Первая волна была построена как массовый фишинг. Сценарий — сверка графика отпусков. Для атаки создавали и настраивали пользовательский шаблон. Тип атаки — обычный, время начала рассылки — сразу, при запуске атаки.На этом этапе проверялась базовая реакция сотрудников на привычные рабочие триггеры и способность распознавать типовые признаки фишинга без привязки к конкретному подразделению. Рисунок 1. Шаблон для первой волны Рисунок 2. Вид фишингового письма из первой волны в почте Волна 2. Для каждого отдела были подготовлены письма, основанные на реальных рабочих процессах, характерных запросах и ситуациях, с которыми сотрудники регулярно сталкиваются в своей деятельности. Для атаки создали и настроили пользовательский шаблон, где-то добавили немного визуального оформления. Время начала рассылки — по запланированному времени. Рисунок 3. Пример шаблона из второй волны для отдела «Продажи» Рисунок 4. Вид фишингового письма из второй волны для отдела «Продажи» Волна 3. Здесь моделировались уже более сложные сценарии целевого фишинга (spear phishing). В письмах использовались специальные формулировки, элементы корпоративного брендирования. На этом этапе проверялась не только внимательность сотрудников, но и способность замечать менее очевидные признаки атаки в условиях, максимально приближённых к реальной целевой компрометации.За основу брали системный брендированный шаблон «Яндекс ID», добавили фишинговую форму и скорректировали немного её содержание. Тип атаки — обычный, время начала рассылки — по запланированному времени. Рисунок 5. Пример шаблона из третьей волны Рисунок 6. Вид фишингового письма из третьей волны При переходе по ссылке открывалась фишинговая страница. Рисунок 7. Фишинговая страница Тестирование доставки и отражения результатов в статистикеДалее была подготовлена инфраструктура рассылки. После её настройки проводилось тестирование доставки сообщений. Проверялась доставка писем во входящие сообщения почтовых клиентов, анализировалась реакция антиспам-механизмов в почте, а также контролировалась корректность работы механизмов отслеживания действий пользователей. Рисунок 8. Результаты тестирования доставки и отображения сообщений в почте Тестирование прошло успешно.После завершения проверки была сформирована последовательность отправки сообщений по заранее определённым волнам. Такой подход позволил распределить нагрузку, контролировать ход тестирования и отслеживать реакцию сотрудников на различных этапах проведения проверки. Рисунок 9. Активные мероприятия Результаты атакБыли получены следующие результаты:Иммунность — 81 %. Хороший иммунитет, большинство реагирует правильно. Охват аудитории (повторно попались на фишинг) — 71 %.Уровень риска — 8, средний. Устойчивость формируется, но есть ещё риски. Рисунок 10. Общая информация после проведения первичного тестирования Самый низкий уровень иммунности — около 50 %, после первых двух волн атак. Рисунок 11. График иммунности во время первичного тестирования Далее — сформировали в системе отчёт по скомпрометированности сотрудников, на основании которого выполнили самостоятельный анализ результатов по отделам без учёта результатов тестирования шаблонов атак. Рисунок 12. Отчёт по скомпрометированности всех сотрудников в Phishman 2.35 Таблица 1. Результаты первичного тестирования по отделамОтделЗаполнили формуОткрыли вложенияОткрыли ссылкуДокументооборот04,76 %4,76 %Продажи04,76 %9,52 %Продюсеры 0023,8 %Редакция0019,04 %Руководитель000 ОбучениеПервичное тестирование завершено, поэтому следующим этапом стало определение группы риска и формирование программы обучения.Формирование учебной группыНа этапе отбора рассматривались два варианта формирования учебной группы. Первый предполагал использование показателя иммунности сотрудников. Второй вариант заключался в создании правила, автоматически формирующего список сотрудников, которые были скомпрометированы в ходе проведённых проверок. Этот подход позволял сразу получить выборку пользователей, продемонстрировавших наибольшую подверженность атакам, без ожидания обновления показателей.Был выбран второй вариант. На основании созданного правила была сформирована группа для обучения: в неё вошли люди, которые были скомпрометированы в ходе первичного тестирования. Рисунок 13. Создание правила для выявления группы риска Рисунок 14. Отчёт по отработанному правилу для выявления группы риска Отдельно была сформирована группа сотрудников, успешно распознавших фишинговую атаку, для участия в обучении, направленном на поддержание киберкультуры.Составление образовательной программы по повышению киберкультурыПопавшиеся сотрудники были включены в отдельную учебную группу, для которой сформировали персональную образовательную траекторию. В неё вошли 3 микрокурса по фишингу и 1 курс по информационной безопасности. Содержание траектории было направлено на повышение устойчивости к методам социальной инженерии и снижение вероятности компрометации учётных данных. Рисунок 15. Заполнение параметров обучения сотрудников Рисунок 16. Составление учебной программы Отдельно была запущена программа обучения для сотрудников, которые не попали в выборку по результатам правила.Процесс обучения и его результатыПервый отчёт мы сформировали через 2 дня после запуска обучения, что позволило получить предварительную оценку вовлечённости сотрудников. Анализ данных показал, что наибольшую активность на начальном этапе продемонстрировали сотрудники, которые попались на фишинг. Рисунок 17. Промежуточный анализ обучения Через неделю после запуска обучения провели повторный анализ прогресса, включая оценку прохождения курсов и выявление участников, не приступивших к обучению. Рисунок 18. Отчёт по динамике обучения в Phishman 2.35 Анализ показал, что часть сотрудников не завершила обучение в установленный срок. Для обеспечения максимального охвата было принято решение о продлении сроков прохождения курсов. Рисунок 19. Продление и корректировка процесса обучения В результате фактическая продолжительность обучения составила 2 недели, что превысило первоначально установленный срок в одну неделю. Но и этого времени не хватило нашим сотрудникам. Чтобы узнать, кто оказался более ответственным, воспользовались возможностями правил. Рисунок 20. Пример настройки правила по выявлению сотрудников, прошедших обучение В результате была получена информация о сотрудниках, полностью и частично прошедших обучение. Рисунок 21. Отчёт по сработанному правилу по выявлению сотрудников, прошедших обучение Рисунок 22. Отчёт по сработанному правилу по выявлению сотрудников, частично прошедших обучение Результаты обучения:полностью прошли обучение — 52 %;частично — 22 %;не прошли обучение — 26 %.Мы проанализировали список сотрудников, не приступивших к обучению, и выяснили, что это те, кто не попался на фишинг во время первичного тестирования.Среди сотрудников, которые попались на фишинг, 80 % прошли обучение, остальные — прошли его частично. Рисунок 23. Результаты обучения сотрудников «АМ Медиа» Вместе с тем за этот период были зафиксированы положительные изменения в ключевых показателях: уровень обученности достиг 9 319 баллов, а показатель киберосознанности — 7 561 баллов. Несмотря на положительную динамику, полученные значения оставались гораздо ниже целевых ориентиров, что свидетельствует о необходимости дальнейшей работы по повышению вовлечённости сотрудников и развитию киберкультуры.Повторное тестированиеПовторное тестирование проводилось по тем же этапам, что и первичное: подготовка шаблонов, тестирование и проведение атак. Как и на первом этапе, основной задачей было сделать письмо максимально похожим на стандартную рабочую переписку, соответствующую реальным бизнес-процессам нашей компании.Подготовительный этап повторного тестирования потребовал дополнительных временных затрат, связанных с регистрацией новых доменов и расширением сценариев атак с учётом результатов первичного тестирования.Волна 1. Сценарии формировались не только для отдельных подразделений, но и адресно для конкретных сотрудников, что позволило повысить реалистичность и точность имитации фишинговых атак. Запустили несколько атак, для каждой из них были разработаны индивидуальные шаблоны электронных писем и соответствующие фишинговые формы. Тип атаки — обычный, время начала рассылки — по запланированному времени. Рисунок 24. Пример фишингового письма для первой волны Рисунок 25. Пример фишинговой формы для письма из первой волны Волна 2. Вторая волна представляла собой массовую фишинговую кампанию. Для неё был создан и настроен пользовательский шаблон, основанный на триггерах срочности и страхе финансовых потерь. Тип атаки — обычный, время начала рассылки — сразу, при запуске атаки. Рисунок 26. Пример фишингового письма для второй волны Тестирование доставки писем и корректности отражения результатов в статистике прошло успешно.Результаты атакВ повторном тестировании приняли участие уже 23 человека. Увеличение числа участников на 2 человека связано с подключением новых сотрудников к нашему эксперименту. Резких скачков иммунности здесь не наблюдалось. Рисунок 27. График иммунности во время повторного тестирования Для дополнительной оценки мы и здесь также выполнили самостоятельный анализ результатов по отделам без учёта результатов тестирования шаблонов атак. Таблица 2. Результаты повторного тестирования по отделамОтделЗаполнили формуОткрыли вложенияОткрыли ссылкуДокументооборот000Продажи008,7 %Продюсеры 008,7 %Редакция8,7 %08,7 %Руководитель000 Мы также посмотрели, как себя показали сотрудники, которые не прошли обучение, в повторном фишинговом тесте. По данным отчёта, в первой волне повторного тестирования на фишинг попались 40% из всех, кто не обучался. Рисунок 28. Поиск информации о сотруднике в отчёте по атакам Подведение итогов После завершения всех этапов эксперимента мы получили следующие показатели:Иммунность — 76 %. Хороший иммунитет, большинство реагирует правильно. Охват аудитории (повторно попались на фишинг) — 91,3 %.Уровень риска — 7, средний. Рисунок 29. Информационная панель Phishman 2.35 после завершения эксперимента После обучения и повторного тестирования добавились другие показатели:Обученность — 11 / 100. Знания отсутствуют, обучение следует начать с базового уровня.Киберосознанность — 10 / 100. Низкий уровень, сотрудники не знают, как действовать в случае угроз.Часть результатов сравнили и представили их в таблице ниже. Таблица 3. Сравнение показателей киберкультуры до и после обученияПоказательДо обученияПосле обученияОбученность09319Иммунность81 %76 %Киберосознанность 07561Охват аудитории (повторно попались на фишинг)71 %91,3 %Уровень риска87 Также проанализировали действия сотрудников после обучения и сравнили их с результатами первичного тестирования. Таблица 4. Сравнение действий сотрудников до обучения и послеОтделЗаполнили формуОткрыли вложенияОткрыли ссылкуДо обученияПосле обученияДо обученияПосле обученияДо обученияПосле обученияДокументооборот004,76 %04,76 %0Продажи004,76 %09,52 %8,7 %Продюсеры 000023,8 %8,7 %Редакция08,7 %0019,04 %8,7 %Руководитель000000 Рисунок 30. Процент попавшихся на фишинг до обучения и после по отделам Если во время первичного тестирования попалось 22 % участников, то после обучения этот показатель уменьшился и стал 12 %. Рисунок 31. Общий процент попавшихся на фишинг до обучения и после Результаты повторного тестирования показали, что, несмотря на заметное снижение количества взаимодействий с фишинговыми письмами, часть сотрудников по-прежнему выполняет действия, свидетельствующие о подверженности атакам. Это ожидаемый результат, поскольку киберкультуру невозможно сформировать за столь короткое время. Речь идёт о длительном процессе, который требует регулярной работы как со стороны специалистов по информационной безопасности, так и со стороны самих сотрудников.Наш эксперимент позволил проверить знания сотрудников, провести обучение и затем оценить, насколько полученные знания закрепились на практике. Однако с точки зрения развития киберкультуры — это лишь один из этапов работы, а не её завершение.Сложности, с которыми мы столкнулисьОсобенность нашего эксперимента — организация предварительного тестирования. Перед запуском каждой атаки мы проверяли её работу на собственном аккаунте, чтобы убедиться в корректной отработке сценария на стороне пользователя. Такие проверки попадали в общую статистику системы и оказывали влияние на итоговые показатели. Возможность исключить подобные события из расчётов отсутствует. Согласно комментариям вендора, для этих целей следует использовать отдельный тестовый стенд. Поэтому мы вели дополнительно самостоятельный анализ результатов эксперимента.Отдельные сложности возникли на этапе обучения сотрудников. Завершить обучение в установленные сроки не удалось из-за человеческого фактора. Не все участники смогли своевременно пройти назначенные материалы, что потребовало увеличения периода обучения и дополнительного контроля за его прохождением.Впечатления от проекта команды «АМ Медиа»Проведение тестирования не вызвало негативной реакции со стороны сотрудников. Хотя фишинговые сообщения активно обсуждались внутри коллектива, жалоб руководству или недовольства вида «зачем вообще было устраивать такую проверку» не возникло. Основной интерес был сосредоточен вокруг самих писем и попыток понять, что именно происходит.Реакция сотрудниковОдним из самых любопытных наблюдений стала реакция сотрудников после первой волны первичного тестирования. Полученные фишинговые сообщения быстро стали предметом обсуждения: сотрудники пересылали их друг другу, задавали вопросы коллегам и пытались разобраться, что происходит.Некоторые пошли ещё дальше и вступали в переписку с отправителем, воспринимая фишинговые письма как реальные рабочие сообщения. Это наглядно показало не только убедительность используемых сценариев, но и то, что практическое столкновение с угрозой вовлекает сотрудников в тему ИБ гораздо сильнее, чем абстрактные примеры из учебных материалов. Во время повторного тестирования такой реакции уже не возникло.Реакция организаторовЕсли для большинства сотрудников тестирование выглядело как неожиданно появившиеся письма в почте, то для команды, которой было поручено тестирование Phishman 2.35 этот проект сопровождался совсем другими эмоциями. Подготовка сценариев, запуск атак и ожидание результатов вызывали ощутимое волнение. Оказалось, что смотреть на ситуацию глазами злоумышленника не так просто, как может показаться со стороны. Приходилось постоянно задавать себе вопросы: какой сценарий покажется правдоподобным, что привлечёт внимание сотрудника, а что, наоборот, вызовет подозрения.Самыми напряжёнными были дни первой волны тестирования. На этом этапе ещё не было понимания, как сотрудники отреагируют на рассылки, насколько убедительными окажутся сценарии и не вызовет ли проверка негативной реакции внутри коллектива. С каждой новой зафиксированной активностью интерес смешивался с тревогой, а результаты ожидались едва ли не с большим нетерпением, чем сам запуск кампании.После завершения эксперимента стало легче: всё задуманное удалось реализовать, результаты были получены и проанализированы. Тем не менее полностью избавиться от мыслей о проделанной работе не получилось. Время от времени возвращаешься к отдельным этапам и задаёшься вопросом: а стоило ли сделать именно так? Может быть, какой-то сценарий можно было построить иначе, а какие-то решения принять по-другому?Наверное, это естественная часть любого практического проекта. Когда работа заканчивается, появляется возможность посмотреть на неё со стороны и критически оценить собственные решения. Именно в такие моменты часто приходят идеи, которые помогают сделать следующие проекты лучше.Сотрудничество с вендоромВ ходе подготовки и проведения эксперимента иногда возникали вопросы, связанные с настройкой платформы, особенностями реализации отдельных сценариев и интерпретацией результатов. Для их решения использовались как переписка, так и рабочие созвоны. Запросы обрабатывались оперативно, что позволяло своевременно получать необходимую информацию и не допускать задержек в выполнении работ. Поддержка была доступна не только в рабочее время, но и в выходные дни.ВыводыПовторное тестирование показало, что тщательно подготовленные и персонализированные фишинговые атаки значительно эффективнее. При наличии качественной разведки злоумышленники способны подобрать убедительный сценарий практически для любого сотрудника. А если специалист может ошибиться, то сотруднику, который не занимается вопросами ИБ каждый день, сделать это ещё проще.Работа в сфере информационной безопасности или информационных технологий сама по себе не защищает человека от фишинга, социальной инженерии и других современных атак. Мы убедились в этом на собственном опыте: даже профильные знания не гарантируют, что человек не попадется на хорошо продуманную атаку. Злоумышленники постоянно меняют сценарии, поэтому знания, полученные однажды, быстро устаревают.При помощи эксперимента мы не только проверили, насколько сотрудники готовы распознавать атаки, но и поняли, как с помощью Phishman 2.35 можно сделать работу по развитию киберкультуры системной. Вместо отдельных курсов появился понятный цикл: смоделировать атаку, оценить реакцию, провести обучение и проверить, изменилось ли поведение участников. При необходимости — повторить или скорректировать процесс при помощи рекомендаций платформы. Результаты фиксируются автоматически, поэтому можно видеть, какие темы требуют больше внимания, и развивать киберкультуру на основе реальных данных, а не предположений.Читать далее
    • PR55.RP55
    • santy
      RP55, есть у тебя ТГ?
×