Сравнительный анализ антивирусного ПО - Страница 3 - Тесты и сравнения - Форумы Anti-Malware.ru Перейти к содержанию
Valery Ledovskoy

Сравнительный анализ антивирусного ПО

Recommended Posts

pROCKrammer

А почему не тестировали F -Prot? О нём чтото всегда забывают )) А так хороший тест малацы!

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин

Согласен с Иваном, если у продукта нет нужного функционала и он поэтому не тестировался, то надо ему ставить ноль баллов, а то получится бредовая система, что антируткита нет, а по нему фактически продукта получает по полной (его ноль не учитывается).

F-Prot не тестируется потому как он в России никому не интересен, да и в мировом масштабе тоже не особо :-)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Александр Шабанов

Итак, резюмируя всё выше сказанное можно сделать пока следующие выводы:

1) Определение числа баллов по тестам

- По уникальным тестам суммируем результаты в процентах по каждому вендору;

- Если результат теста интерпритируется не в процентах, то конвертируем в проценты относительно идеального результата;

- По подобным тестам разных лабораторий результат усредняется.

- Если какой-либо вендор не принимал участие в тесте, по причине отсутствия функциональности, то он получает 0 за данный тест;

- Если какой-либо вендор не принимал участие в тесте, по причине автора теста, то необходимо убирать либо тестовую лабораторию, либо вендора из комплексного анализа.

2) Теперь необходимо определить:

а) Состав тестовых лаборатори

б) Типы тестов.

в) Период, за которой необходимо производить анализ.

Жду Ваших комментариев.

По тестовым лабораториям предлагаю пока такой состав:

1) av-comparatives.org

2) av-test.org

3) VB100

4) anti-malware.ru

P.S. VB непонятно как интерпретировать, так как результат теста pass/fail.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Valery Ledovskoy
P.S. VB непонятно как интерпретировать, так как результат теста pass/fail.

Выкинуть VB совсем? Ибо результат pass/fail никак не годится для дальнейшего интегрирования. Это всё равно что в NFS играть при разрешении 3х3.

Более логично для VB вместо взял/не взял брать те же проценты. Но тогда у всех будет очень близко к 100%, что тоже не есть хорошо/информативно. Т.е. не добавит практически ничего к суммарной (интегральной) информации по возможностям/недостаткам антивирусов, ибо все будут фактически равны/идеальны. Т.е. снова приходим к тому, что включать не стОит.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин
3) VB100

VB в топку, эти тесты ничего не показывают. По остальному составу отводов нет.

Идея с подсчетом нормированных баллов относительно идеала мне нравится. По этому показателю видно несовершенство существующих методов защиты :-)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Иван
VB в топку, эти тесты ничего не показывают. По остальному составу отводов нет.

Идея с подсчетом нормированных баллов относительно идеала мне нравится. По этому показателю видно несовершенство существующих методов защиты :-)

ну почему уж сразу в топку, ничего не показывает значек вб100 получил не получил - взял все ITW самплы или не взял

но если смотреть тест целиком, то там ведь прогон идет и по собственной коллеции вб100

так шо можно считать например сколько вирусов у кого пропущено в этом тесте

данные могу дать

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Deja_Vu

Не понятно, как суммарно NOD обошtл Avast, при том, что лечение у него явно хуже, и обнаруживает Avast чуть лучше чем NOD.

VB100% тоже как то влиял на график? ...

(еще сомнение вызвал BitDefender при его лучшем детекте, но т.к. у него худшее лечение, то еще можно согласиться)

Очень интересная реакция на статью (http://gelz.net/docs/ws246_i_dlja_wseh/sravnitelbnyj_analiz_antivirusnogo_po.html)

Kunzite [ 13:29 14 Января, 2008 года ]

Значит так, Господа, а теперь послушайте мнение эксперта ©

Имею статус Eset TSE (Technical Support Engineer), скажу следующее.

1)Ни один из тестов указанных выше, нельзя назвать объективным.

2) VirusBulletin может любому антивирус дать первое место во всех тестах, если с ними договориться и платить им на постоянной основе, как это делает Eset

3) Это не означает что Eset Nod32 плохой антивирус :)

Просто есть вопросы практических аспектов антивируса и проводимой его производителем политикой.

Так вот, даже в вышеуказанных тестах видно распределение особенностей антивирусов.

Eset Nod32

имеет отличные показатели по отловле вирусов, троянов, червей и много чего еще..

также не создает сильной нагрузки на работу системы, за исключением некоторых случаев.

но его недостатки следующие:

- при использовании не системных методов копирования файла локально или по сети, Nod создает дополнительную нагрузку на систему, анализируя каждый блок информации, что сказывается на том, что копирование происходит отрывисто, по мере того как Nod проверяет отдельные блоки. Простой пример - при копировании фаром файлов на каждом передаваемом блоке видны тормоза, причем распространяется эта нагрузка не только на Far.exe, но и на систему в целом, отдавая приоритет проверке антивирусом текущего потока данных. Почему-то такая особенность была замечена только за Nod32, при том что у других антивирусов все шло гладко

- политика Eset такова, что Spyware и adware они не считают опасными приложениями и потому их продукт ловит из них только очень малую часть.

- если в плане отлавливания у Nod32 достаточно высокий уровень, то вот с лечением у него все не очень радужно, чаще всего (на моей обширной практике), он отказывается лечить зараженный файл (не именно вирусный файл, а зараженный файл, который может содержать полезные данные)

есть и еще несколько мелких недостатков, но они не сильно существенны.

Продолжаем разбор полетов

Kaspersky

Ну тут проще сказать сразу, что в принципе такие продукты, как версия 3, версия 4, версия 5, версия 6 и версия 7 - это абсолютно разные продукты и все ведут себя по-своему, обладая различными достоинствами и недостатками.

Поскольку 7-ю версию пока не очень пользуют, опишу вкратце достоинства и недостатки 6-й версии, по которой я сегодня сдал экзамен.

Достоинства ее в том, что у нее достаточно высок уровень улова шпионских модулей, всяких программ-шуток, рекламных модулей и прочей лабуды, не относящейся напрямую к вирусам. Также его модуль Проактивной защиты отслеживает изменение критических веток реестра, а также активность типа записи программ в автозагрузку в реестре или перехват ими информации с других процессов.

Ну что еще, они могут таже похвастаться тем, что у них почти что чаще всех выходят обновления антивирусных баз, раз в несколько часов (по их рекомендации надо обновлять антивирус раз в 3 часа).

Ну и еще более-менее симпатичный интерфейс, который в 6-й версии был почти целиком слизан с интерфейса Norton Antivirus'а.

Но тут наверное достоинства заканчиваются. И начинаются недостатки.

- главный недостаток - не самый высокий уровень отлова вирусов и их

модификаций. модуль эвристики (выявления вирусов не по четкой сигнатуре а по похожести поведения) проработан намного хуже, чем у Nod32, что приводит к тому, что не все вирусы и не вся их активность выявляется сразу.

- модуль Проактивной защиты конечно вылавливает много действий похожих на подозрительные, но это приводит к множеству ложных срабатываний, а в итоге включается человеческий фактор, когда пользователю надоедает, что при изменениях в системе или реестре, Касперский его часто спрашивает подтверждение и тогда пользователь просто отключает проактивную защиту, при этом сами понимаете - отключение любого модуля антивируса не только снижает надежность его работы, но и открывает брешь, которой могут воспользоваться вирусы или вредоносные программы.

- соответственно, 6-я версия Касперского тяжеловесная и создает сильную нагрузку на систему. Как они объясняли в своем курсе, надежность важнее, чем легковесность антивируса. вот и доигрались.

Dr.Web

Лаборатория Лозинского.. с них вобщем-то все начиналось на просторах бывшей СССР. Был Adinf, потом уже Drweb, который был очень популярен под досом.

Опять же его можно расценивать как минимум три разные версии.

Дос-версия, старая версия под Windows 95/NT и современная версия.

Конечно речь я заведу о современной версии.

У ДрВеб есть два достоинства, которые его выделяют на фоне прочих антивирусов:

- он очень легкий и мало влияет на систему, даже когда копирование файлов производится нестандартными методами.

- отличный процент лечибельности найденных зараженных файлов

Это позволяет использовать его на первом этапе лечения уже зараженной системы(например загрузившись с Live CD). Правда вторым этапом все же стоит прогнать каким-нибудь другим антивирусом.

Вот теперь пара главных недостатков:

- очень низкий процент ловли вирусов, ниже чем у других, знает только

известные вирусы, большинство модификаций, а малоизвестные может и не ловить

- пропускает много подозрительной активности, а также шпионов и прочие гадости.

Ну и наконец

Avira

Германский антивирус, достаточно молодой, но уже успевший завоевать уважение.

Его бесплатная версия обладает почти всеми теми же особенностями, что и платная, только отсутствует модуль проверки почтового трафика.

Достоинств у него много - легкий, при этом отлично контроллирующий

подозрительную активность, прекрасный процент улова вирусов, троянов, шпионов, adware и прочей гадости. Удобный интерфейс, шустрая работа, не тормозит систему.

Однако и у него есть недостатки:

- очень плохо умеет лечить зараженные файлы, если файл заражен чаще всего предлагает его удалить или закрыть к нему доступ

- нет настройки исключений, вернее есть, но не гибкие.. если один файл по его версии содержит вирус, а вы уверены, что это просто похожая технология в файле (например в патче), то Авира будет орать на этот файл каждый раз как его увидит, то есть не только при копировании файла или открытии, но и даже просто при запросе листинга каталога, где этот файл лежит, при этом каждый раз приходится Авире объяснять, что этот файл нормальный, игнорировать его и нет галочки "запомнить для данного файла".

Можно было бы упомянуть Symantec, как неплохое решение для серверов, но в последние пару месяцев, он на работе у нас показал себя с не лучшей стороны, очень тормозит работу даже мощной машины, к сожалению процент улова на нем выяснить не удалось, раньше он был достаточно высок (имея ввиду Norton Antivirus, как домашнее решение).

Вобщем подведя итоги скажу, Аваст и AVG я не упоминал потому, что серьезными антивирусами ни их ни Clam не считаю, ибо очень высок процент пропуска вирусов и троянов ими, потому про них даже не говорю. А Аваста конечно революционный симпатичный интерфейс, что многих привлекает им пользоваться, но я бы ему свой компьютер не доверил, чего я не могу сказать про Авиру или Nod32, которые считаю лучшими.

хм ... знает только 6ку.. при том уже 8ка на подходе -))

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Deja_Vu
ну почему уж сразу в топку, ничего не показывает значек вб100 получил не получил - взял все ITW самплы или не взял

но если смотреть тест целиком, то там ведь прогон идет и по собственной коллеции вб100

так шо можно считать например сколько вирусов у кого пропущено в этом тесте

данные могу дать

А как же быть с "поврежденными" семплами у Нода? ((-

Что-то с VB100 очень мутно и сомнительно, особенно если учесть http://www.anti-malware.ru/forum/index.php...ost&p=31832

(см. что выделено жирным)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Alex_Goodwin
Kunzite [ 13:29 14 Января, 2008 года ]

имхо бред (с). Аргументы детские, и вообще хреновый из него эксперт :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Storm
имхо бред (с). Аргументы детские, и вообще хреновый из него эксперт :)

А что вы ждали от Eset TSE. :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Иван
А как же быть с "поврежденными" семплами у Нода? ((-

Что-то с VB100 очень мутно и сомнительно, особенно если учесть http://www.anti-malware.ru/forum/index.php...ost&p=31832

(см. что выделено жирным)

аргументируй

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Deja_Vu
аргументируй

Другими словами ... если учесть то, что тесты VB банально покупаются, то откуда знать, сколько действительно сеvплов не поймал тот или иной антивирус из тех, что прошли VB100.

Или же, возможна что VB поступают по другому. Подготавливают коллекции специально для определенных антивирусов.

В любом случае такие результаты учитывать нельзя, т.к. они подстроенны тем или иным образом.

Это как проводить соц опрос в обществе любителей НОДа и потом утверждать что 80% пользователей предпочитают НОД.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Иван
имхо бред (с). Аргументы детские, и вообще хреновый из него эксперт :)

аргументируй

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Storm
аргументируй

1) "модуль Проактивной защиты конечно вылавливает много действий похожих на подозрительные, но это приводит к множеству ложных срабатываний" - неправда, ибо в режиме базовой защиты срабатывания практически все по теме.

2) "6-я версия Касперского тяжеловесная и создает сильную нагрузку на систему" - не соответствует действительности, если пятерку я замечал, то 6-7 версии я не замечаю даже при включение на максимум эвристики.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Black Angel

2) "6-я версия Касперского тяжеловесная и создает сильную нагрузку на систему" - не соответствует действительности, если пятерку я замечал, то 6-7 версии я не замечаю даже при включение на максимум эвристики.
Подтверждаю. Эвристика на максимуме. Никаких тормозов не ощущаю. У меня KIS 7.0.1.321.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Александр Шабанов
VB в топку, эти тесты ничего не показывают. По остальному составу отводов нет.

Идея с подсчетом нормированных баллов относительно идеала мне нравится. По этому показателю видно несовершенство существующих методов защиты :-)

Итак, предлагаю вернуться к первоначальной теме.

Пришел к выводу, что по имеющимся тестам комплексный анализ необходимо проводить по следующим компонентам антивирусной защиты:

1) Общее обнаружение вредоносны программ

Выборка тестов:

а) Тест Virus Bulletin

Июль 2007, Windows XP

б) Тест AV-Test.com

Ноябрь 2007, Windows XP;

в) Тест AV-Comparatives.org

Август 2007, Windows XP;

Итоговый результат определяется средним значением.

Вес показателя - 1

2а) Обнаружение неизвестных угроз (проактивная защита)

Выборка тестов:

а) Тест Av-test.com

Январь 2008, Windows XP

б) Тест Anti-malware.ru

Декабрь 2007, Windows XP

в) Тест Av-comparatives.org

Ноябрь 2007, Windows XP

Итоговый результат определяется средним значением.

Вес показателя - 0.5

2б) Количество ложных срабатываний

Выборка тестов:

а) AV-comparatives

Ноябрь 2007, Windows XP

Вес показателя - 0.5

3) Лечение на активное заражение

Выборка тестов:

а) Anti-Malware.Ru

Сентябрь, 2007, Windows XP

Вес показателя - 1

4) Самозащита системы

Выборка тестов:

а) Anti-Malware.Ru

Август 2007, Windows XP

5) Поддержка упаковщиков

Выборка тестов:

а) Anti-Malware.Ru

Август, 2006, Windows XP

Вес показателя - 1

6) Скорость реакции вирусных лабораторий на новые угрозы

Выборка тестов:

а) AV-Test Январь 2008

Вес показателя - 1

Тестирование на обнаружение и лечение руткитов умышеленно не взял, так как это частный случай п.1 и п.3, в данный момент невозможно определить вес данного показателя, так как требует разбиения п.1 и п.3 на субпоказатели, а именно на все типы вредоносных программ, но тестов по разным типам вредоносов отдельно еще не проводились.

Возможно упустил какой-то тест, либо есть несогласия с весами и показателями, буду очень признателен Вашим комментариям. :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
alexgr
Dr.Web

Лаборатория Лозинского.. с них вобщем-то все начиналось на просторах бывшей СССР. Был Adinf, потом уже Drweb, который был очень популярен под досом.

Опять же его можно расценивать как минимум три разные версии.

Тяжелый "специалист". Хотя бы ознакомился с современным состоянием дел, узнал бы - какая и чья лаборатория в наличии :lol: .... Анализ и анализом то трудненько назвать, ежели честно. Хотя ознакомиться с еще одной позицией НОД полезно. Но вот экспертом это человека назвать даже после ящика пива не смогу. Никогда. Не тянет... :D:D

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Иван
а) Anti-Malware.Ru

Август, 2006, Windows XP

слишком древний, надо нового ждать от антималваре

а почему интерсно за проактивку - 0,5, а за время реакции и упаковщики - 1?

кстати насколько я понимаю у маркса время реакции учитывает и проактивку - тогда он ставит нолик

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Александр Шабанов
а почему интерсно за проактивку - 0,5, а за время реакции и упаковщики - 1?

Так как проактивка составляет совокупный вес с ложными срабатываниями, т.е. если нет фолсов получишь единицу в итоге за проактивку

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Иван
Так как проактивка составляет совокупный вес с ложными срабатываниями, т.е. если нет фолсов получишь единицу в итоге за проактивку

с какого перепугу? то что клименти фолсы смотрит в тесте на эвристики это его личная проблема

но фолсы-то не заслуга только эвристиков, сигнатурных фолсов тоже пруд пруди. собственно и у клименти фолсы считает все и сигнатурные и евристиком

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Valery Ledovskoy
а) Тест Virus Bulletin

Июль 2007, Windows XP

б) Тест AV-Test.com

Ноябрь 2007, Windows XP;

в) Тест AV-Comparatives.org

Август 2007, Windows XP;

Итоговый результат определяется средним значением.

Вес показателя - 1

Как именно здесь будет браться среднее значение? Что именно будет браться от VB? Наличие/отсутствие награды не является критерием общего уровня детекта вредоносных программ. И даже если брать проценты, то VB не показывает общий уровень детекта. Так, тест на весьма ограниченной узкой выборке. Что скажете?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
vaber

Предлагаю проактив, что будет учитываться, переименовать что-то в роде "эвристический анализ".

Ну а за тест по пакерам - вес показателя уменьшить - 0,5, например.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Александр Шабанов
с какого перепугу? то что клименти фолсы смотрит в тесте на эвристики это его личная проблема

но фолсы-то не заслуга только эвристиков, сигнатурных фолсов тоже пруд пруди. собственно и у клименти фолсы считает все и сигнатурные и евристиком

По сути согласен, тогда предлагаю за проактивку вес - 1

Но как привязать ложные срабатывания, ведь это побочный эффект и на вес - 1 явно не тянет.

Как именно здесь будет браться среднее значение? Что именно будет браться от VB? Наличие/отсутствие награды не является критерием общего уровня детекта вредоносных программ. И даже если брать проценты, то VB не показывает общий уровень детекта. Так, тест на весьма ограниченной узкой выборке. Что скажете?

Предполагаю брать среднее арифметическое, это справедливо для непересекающихся коллекций, понятно что это не факт что так есть, но проверить это не представляется возможным.

Насчет VB я предполагал брать проценты, они конечно же намного отличаются от тестов Маркса и Клименти.

Но игнорировать этот тест, я считаю все таки и нельзя, и если учесть что все продукты в равных условиях, то на итоговую оценку по общему детекту он сильно не повлияет (причем VB участвует лишь в формировании одного показателя).

Предлагаю проактив, что будет учитываться, переименовать что-то в роде "эвристический анализ".

Ну а за тест по пакерам - вес показателя уменьшить - 0,5, например.

Почему Вы считаете, что лучше переименовать? Я принципиально не возражаю, но такое название брал исходя из названий участвующих в наборе тестов, и поэтому пользователю будет более понятно именно такая ассоциация.

По пакерам согласен, но какой вес будет наиболее объективным? Почему именно 0,5 ? :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
vaber
Почему Вы считаете, что лучше переименовать? Я принципиально не возражаю, но такое название брал исходя из названий участвующих в наборе тестов, и поэтому пользователю будет более понятно именно такая ассоциация.

По пакерам согласен, но какой вес будет наиболее объективным? Почему именно 0,5 ? :)

По тому как название не соответствует содержимому тестов. Проактив - широкое понятие, там же, в тестах, тестировалась лишь одна компонента - эвристический анализ. Приведу как наиболее известный пример - антивирус Касперского - в нем есть помимо эвристика (эмулятор) и поведенческий анализ и мониторинг системных событий. Это тоже проактив. Но я не настаиваю на переименовании :).

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
dot_sent
Насчет VB я предполагал брать проценты, они конечно же намного отличаются от тестов Маркса и Клименти.

Но игнорировать этот тест, я считаю все таки и нельзя, и если учесть что все продукты в равных условиях, то на итоговую оценку по общему детекту он сильно не повлияет (причем VB участвует лишь в формировании одного показателя).

Существенно не повлияет на взаимное расположение продуктов в итоговой таблице. Но зато повлияет на их итоговый рейтинг относительно идеала - AFAIR, у VB почти все процентные показатели близки к 90-95%. Тут уж надо определиться с тем, что нужно от этого интегрального показателя - средний рейтинг продуктов по существующим тестам или средний рейтинг по реальным качествам продуктов (ну, хотя бы приближение к оному). Если учитывать VB - будет первое, если нет - второе.

Все вышесказанное - ИМХО, естественно :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

  • Сообщения

    • Ego Dekker
      ESET Online Scanner был обновлён до версии 4.0.1. Приложение теперь работает только в 64-разрядной ОС.
    • Ego Dekker
      ESET Cyber Security был обновлён до версии 9.0.6700.
    • AM_Bot
      Теория звучит убедительно, но работает ли она на практике? Мы внимательно изучили Phishman 2.35 и решили не останавливаться на описании её возможностей. Вместо этого протестировали платформу на собственных сотрудниках и удивились, к каким результатам это привело.      1. Введение2. Методология тестирования Phishman 2.353. Первичное тестирование3.1. Подготовка шаблонов фишинговых сообщений, инфраструктуры рассылки3.2. Тестирование доставки и отражения результатов в статистике3.3. Результаты атак4. Обучение4.1. Формирование учебной группы4.2. Составление образовательной программы по повышению киберкультуры4.3. Процесс обучения и его результаты5. Повторное тестирование5.1. Результаты атак6. Подведение итогов6.1. Сложности, с которыми мы столкнулись7. Впечатления от проекта команды «АМ Медиа»7.1. Реакция сотрудников7.2. Реакция организаторов7.3. Сотрудничество с вендором8. ВыводыВведениеPhishman 2.35 — это система повышения осведомлённости пользователей в сфере ИБ. Она помогает развивать киберкультуру и формировать у сотрудников устойчивые навыки безопасной работы с информацией, цифровыми сервисами и корпоративными ресурсами. В процессе обучения сотрудники учатся распознавать актуальные сценарии атак, закрепляют правильные модели поведения и в результате реже становятся причиной инцидентов, связанных с человеческим фактором.В первой части обзора Phishman 2.35 мы рассмотрели платформу с точки зрения её возможностей. Теперь пришло время проверить, как всё это работает на практике. За время проекта мы не только оценили эффективность различных сценариев, но и столкнулись с рядом особенностей, которые невозможно увидеть в документации. Одни из них влияли на ход тестирования, другие оказались скорее организационными нюансами, о которых стоит знать заранее.Методология тестирования Phishman 2.35В процессе работы с киберкультурой «АМ Медиа» мы будем использовать следующие метрики:Обученность. Отражает уровень знаний сотрудников в области ИБ. Показатель растёт, когда сотрудники осваивают темы: реагирование на инциденты, защита от социальной инженерии и другие критически важные компетенции.Иммунность. Показывает, как сотрудники применяют знания на практике. Она повышается, когда демонстрируется способность распознавать угрозы и правильно на них реагировать в реальных сценариях.Киберосознанность — итоговая метрика. Объединяет знания и практические навыки, показывая, насколько сотрудники в целом устойчивы к киберугрозам и действуют корректно при их возникновении.Прежде чем оценивать эффективность работы системы, необходимо определить отправную точку. Первичное тестирование определит, на какие сценарии реагирует каждый сотрудник, где чаще всего допускаются ошибки и какие темы требуют дополнительного развития. На основе этих данных формируется индивидуальная программа обучения: сотрудники проходят персонализированные курсы, выполняют практические задания и тесты, которые помогают устранить выявленные пробелы и закрепить необходимые навыки. В процессе обучения повышается уровень обученности, а закрепление знаний через практику влияет на показатель иммунности. После завершения обучения мы проведём повторное тестирование, которое покажет, какие изменения произошли по всем ключевым метрикам.Заключительный этап — сравнение результатов первичного и повторного тестирования. Здесь станет понятно, насколько вырос уровень киберкультуры сотрудников: изменилось ли их отношение к вопросам ИБ, стали ли они увереннее распознавать угрозы и чаще принимать безопасные решения в ситуациях, где раньше могли допустить ошибку.В качестве основного канала для рассылки фишинга выбрали электронную почту. Причина очевидна: именно она остаётся основным способом первичного контакта злоумышленников с сотрудниками и доставки фишинговых сценариев. По имеющимся оценкам, более 90 % успешных кибератак начинаются с электронного письма, поэтому исключать этот канал из подобных проверок было бы некорректно.Первичное тестированиеРеальные фишинговые атаки почти никогда не строятся по универсальному шаблону: злоумышленники адаптируют содержание писем под роль человека в компании, его рабочие процессы и типовые задачи. Поэтому при выборе целевой аудитории мы разделили сотрудников по функциям и уровню доступа к корпоративным данным, а сам проект разбили на 3 последовательные волны с разным уровнем сложности.Подготовка шаблонов фишинговых сообщений, инфраструктуры рассылкиПосле определения целевой аудитории был проведён анализ структуры подразделений и рабочих процессов сотрудников. На этом этапе изучались:должностные обязанности;распределение зон ответственности;характер внутреннего взаимодействия между отделами;используемые адреса электронной почты;формат повседневной служебной переписки.Это позволило понять, какие сценарии коммуникации являются для сотрудников привычными и не вызывают подозрений.На основе собранных данных были подготовлены сценарии фишинговых сообщений. При разработке содержимого учитывались тематика рабочих задач, стиль корпоративного общения, оформление внутренних уведомлений и типовые причины отправки писем внутри организации. Основная задача заключалась в том, чтобы письмо воспринималось как стандартное рабочее сообщение, соответствующее реальным бизнес-процессам заказчика.Волна 1. Первая волна была построена как массовый фишинг. Сценарий — сверка графика отпусков. Для атаки создавали и настраивали пользовательский шаблон. Тип атаки — обычный, время начала рассылки — сразу, при запуске атаки.На этом этапе проверялась базовая реакция сотрудников на привычные рабочие триггеры и способность распознавать типовые признаки фишинга без привязки к конкретному подразделению. Рисунок 1. Шаблон для первой волны Рисунок 2. Вид фишингового письма из первой волны в почте Волна 2. Для каждого отдела были подготовлены письма, основанные на реальных рабочих процессах, характерных запросах и ситуациях, с которыми сотрудники регулярно сталкиваются в своей деятельности. Для атаки создали и настроили пользовательский шаблон, где-то добавили немного визуального оформления. Время начала рассылки — по запланированному времени. Рисунок 3. Пример шаблона из второй волны для отдела «Продажи» Рисунок 4. Вид фишингового письма из второй волны для отдела «Продажи» Волна 3. Здесь моделировались уже более сложные сценарии целевого фишинга (spear phishing). В письмах использовались специальные формулировки, элементы корпоративного брендирования. На этом этапе проверялась не только внимательность сотрудников, но и способность замечать менее очевидные признаки атаки в условиях, максимально приближённых к реальной целевой компрометации.За основу брали системный брендированный шаблон «Яндекс ID», добавили фишинговую форму и скорректировали немного её содержание. Тип атаки — обычный, время начала рассылки — по запланированному времени. Рисунок 5. Пример шаблона из третьей волны Рисунок 6. Вид фишингового письма из третьей волны При переходе по ссылке открывалась фишинговая страница. Рисунок 7. Фишинговая страница Тестирование доставки и отражения результатов в статистикеДалее была подготовлена инфраструктура рассылки. После её настройки проводилось тестирование доставки сообщений. Проверялась доставка писем во входящие сообщения почтовых клиентов, анализировалась реакция антиспам-механизмов в почте, а также контролировалась корректность работы механизмов отслеживания действий пользователей. Рисунок 8. Результаты тестирования доставки и отображения сообщений в почте Тестирование прошло успешно.После завершения проверки была сформирована последовательность отправки сообщений по заранее определённым волнам. Такой подход позволил распределить нагрузку, контролировать ход тестирования и отслеживать реакцию сотрудников на различных этапах проведения проверки. Рисунок 9. Активные мероприятия Результаты атакБыли получены следующие результаты:Иммунность — 81 %. Хороший иммунитет, большинство реагирует правильно. Охват аудитории (повторно попались на фишинг) — 71 %.Уровень риска — 8, средний. Устойчивость формируется, но есть ещё риски. Рисунок 10. Общая информация после проведения первичного тестирования Самый низкий уровень иммунности — около 50 %, после первых двух волн атак. Рисунок 11. График иммунности во время первичного тестирования Далее — сформировали в системе отчёт по скомпрометированности сотрудников, на основании которого выполнили самостоятельный анализ результатов по отделам без учёта результатов тестирования шаблонов атак. Рисунок 12. Отчёт по скомпрометированности всех сотрудников в Phishman 2.35 Таблица 1. Результаты первичного тестирования по отделамОтделЗаполнили формуОткрыли вложенияОткрыли ссылкуДокументооборот04,76 %4,76 %Продажи04,76 %9,52 %Продюсеры 0023,8 %Редакция0019,04 %Руководитель000 ОбучениеПервичное тестирование завершено, поэтому следующим этапом стало определение группы риска и формирование программы обучения.Формирование учебной группыНа этапе отбора рассматривались два варианта формирования учебной группы. Первый предполагал использование показателя иммунности сотрудников. Второй вариант заключался в создании правила, автоматически формирующего список сотрудников, которые были скомпрометированы в ходе проведённых проверок. Этот подход позволял сразу получить выборку пользователей, продемонстрировавших наибольшую подверженность атакам, без ожидания обновления показателей.Был выбран второй вариант. На основании созданного правила была сформирована группа для обучения: в неё вошли люди, которые были скомпрометированы в ходе первичного тестирования. Рисунок 13. Создание правила для выявления группы риска Рисунок 14. Отчёт по отработанному правилу для выявления группы риска Отдельно была сформирована группа сотрудников, успешно распознавших фишинговую атаку, для участия в обучении, направленном на поддержание киберкультуры.Составление образовательной программы по повышению киберкультурыПопавшиеся сотрудники были включены в отдельную учебную группу, для которой сформировали персональную образовательную траекторию. В неё вошли 3 микрокурса по фишингу и 1 курс по информационной безопасности. Содержание траектории было направлено на повышение устойчивости к методам социальной инженерии и снижение вероятности компрометации учётных данных. Рисунок 15. Заполнение параметров обучения сотрудников Рисунок 16. Составление учебной программы Отдельно была запущена программа обучения для сотрудников, которые не попали в выборку по результатам правила.Процесс обучения и его результатыПервый отчёт мы сформировали через 2 дня после запуска обучения, что позволило получить предварительную оценку вовлечённости сотрудников. Анализ данных показал, что наибольшую активность на начальном этапе продемонстрировали сотрудники, которые попались на фишинг. Рисунок 17. Промежуточный анализ обучения Через неделю после запуска обучения провели повторный анализ прогресса, включая оценку прохождения курсов и выявление участников, не приступивших к обучению. Рисунок 18. Отчёт по динамике обучения в Phishman 2.35 Анализ показал, что часть сотрудников не завершила обучение в установленный срок. Для обеспечения максимального охвата было принято решение о продлении сроков прохождения курсов. Рисунок 19. Продление и корректировка процесса обучения В результате фактическая продолжительность обучения составила 2 недели, что превысило первоначально установленный срок в одну неделю. Но и этого времени не хватило нашим сотрудникам. Чтобы узнать, кто оказался более ответственным, воспользовались возможностями правил. Рисунок 20. Пример настройки правила по выявлению сотрудников, прошедших обучение В результате была получена информация о сотрудниках, полностью и частично прошедших обучение. Рисунок 21. Отчёт по сработанному правилу по выявлению сотрудников, прошедших обучение Рисунок 22. Отчёт по сработанному правилу по выявлению сотрудников, частично прошедших обучение Результаты обучения:полностью прошли обучение — 52 %;частично — 22 %;не прошли обучение — 26 %.Мы проанализировали список сотрудников, не приступивших к обучению, и выяснили, что это те, кто не попался на фишинг во время первичного тестирования.Среди сотрудников, которые попались на фишинг, 80 % прошли обучение, остальные — прошли его частично. Рисунок 23. Результаты обучения сотрудников «АМ Медиа» Вместе с тем за этот период были зафиксированы положительные изменения в ключевых показателях: уровень обученности достиг 9 319 баллов, а показатель киберосознанности — 7 561 баллов. Несмотря на положительную динамику, полученные значения оставались гораздо ниже целевых ориентиров, что свидетельствует о необходимости дальнейшей работы по повышению вовлечённости сотрудников и развитию киберкультуры.Повторное тестированиеПовторное тестирование проводилось по тем же этапам, что и первичное: подготовка шаблонов, тестирование и проведение атак. Как и на первом этапе, основной задачей было сделать письмо максимально похожим на стандартную рабочую переписку, соответствующую реальным бизнес-процессам нашей компании.Подготовительный этап повторного тестирования потребовал дополнительных временных затрат, связанных с регистрацией новых доменов и расширением сценариев атак с учётом результатов первичного тестирования.Волна 1. Сценарии формировались не только для отдельных подразделений, но и адресно для конкретных сотрудников, что позволило повысить реалистичность и точность имитации фишинговых атак. Запустили несколько атак, для каждой из них были разработаны индивидуальные шаблоны электронных писем и соответствующие фишинговые формы. Тип атаки — обычный, время начала рассылки — по запланированному времени. Рисунок 24. Пример фишингового письма для первой волны Рисунок 25. Пример фишинговой формы для письма из первой волны Волна 2. Вторая волна представляла собой массовую фишинговую кампанию. Для неё был создан и настроен пользовательский шаблон, основанный на триггерах срочности и страхе финансовых потерь. Тип атаки — обычный, время начала рассылки — сразу, при запуске атаки. Рисунок 26. Пример фишингового письма для второй волны Тестирование доставки писем и корректности отражения результатов в статистике прошло успешно.Результаты атакВ повторном тестировании приняли участие уже 23 человека. Увеличение числа участников на 2 человека связано с подключением новых сотрудников к нашему эксперименту. Резких скачков иммунности здесь не наблюдалось. Рисунок 27. График иммунности во время повторного тестирования Для дополнительной оценки мы и здесь также выполнили самостоятельный анализ результатов по отделам без учёта результатов тестирования шаблонов атак. Таблица 2. Результаты повторного тестирования по отделамОтделЗаполнили формуОткрыли вложенияОткрыли ссылкуДокументооборот000Продажи008,7 %Продюсеры 008,7 %Редакция8,7 %08,7 %Руководитель000 Мы также посмотрели, как себя показали сотрудники, которые не прошли обучение, в повторном фишинговом тесте. По данным отчёта, в первой волне повторного тестирования на фишинг попались 40% из всех, кто не обучался. Рисунок 28. Поиск информации о сотруднике в отчёте по атакам Подведение итогов После завершения всех этапов эксперимента мы получили следующие показатели:Иммунность — 76 %. Хороший иммунитет, большинство реагирует правильно. Охват аудитории (повторно попались на фишинг) — 91,3 %.Уровень риска — 7, средний. Рисунок 29. Информационная панель Phishman 2.35 после завершения эксперимента После обучения и повторного тестирования добавились другие показатели:Обученность — 11 / 100. Знания отсутствуют, обучение следует начать с базового уровня.Киберосознанность — 10 / 100. Низкий уровень, сотрудники не знают, как действовать в случае угроз.Часть результатов сравнили и представили их в таблице ниже. Таблица 3. Сравнение показателей киберкультуры до и после обученияПоказательДо обученияПосле обученияОбученность09319Иммунность81 %76 %Киберосознанность 07561Охват аудитории (повторно попались на фишинг)71 %91,3 %Уровень риска87 Также проанализировали действия сотрудников после обучения и сравнили их с результатами первичного тестирования. Таблица 4. Сравнение действий сотрудников до обучения и послеОтделЗаполнили формуОткрыли вложенияОткрыли ссылкуДо обученияПосле обученияДо обученияПосле обученияДо обученияПосле обученияДокументооборот004,76 %04,76 %0Продажи004,76 %09,52 %8,7 %Продюсеры 000023,8 %8,7 %Редакция08,7 %0019,04 %8,7 %Руководитель000000 Рисунок 30. Процент попавшихся на фишинг до обучения и после по отделам Если во время первичного тестирования попалось 22 % участников, то после обучения этот показатель уменьшился и стал 12 %. Рисунок 31. Общий процент попавшихся на фишинг до обучения и после Результаты повторного тестирования показали, что, несмотря на заметное снижение количества взаимодействий с фишинговыми письмами, часть сотрудников по-прежнему выполняет действия, свидетельствующие о подверженности атакам. Это ожидаемый результат, поскольку киберкультуру невозможно сформировать за столь короткое время. Речь идёт о длительном процессе, который требует регулярной работы как со стороны специалистов по информационной безопасности, так и со стороны самих сотрудников.Наш эксперимент позволил проверить знания сотрудников, провести обучение и затем оценить, насколько полученные знания закрепились на практике. Однако с точки зрения развития киберкультуры — это лишь один из этапов работы, а не её завершение.Сложности, с которыми мы столкнулисьОсобенность нашего эксперимента — организация предварительного тестирования. Перед запуском каждой атаки мы проверяли её работу на собственном аккаунте, чтобы убедиться в корректной отработке сценария на стороне пользователя. Такие проверки попадали в общую статистику системы и оказывали влияние на итоговые показатели. Возможность исключить подобные события из расчётов отсутствует. Согласно комментариям вендора, для этих целей следует использовать отдельный тестовый стенд. Поэтому мы вели дополнительно самостоятельный анализ результатов эксперимента.Отдельные сложности возникли на этапе обучения сотрудников. Завершить обучение в установленные сроки не удалось из-за человеческого фактора. Не все участники смогли своевременно пройти назначенные материалы, что потребовало увеличения периода обучения и дополнительного контроля за его прохождением.Впечатления от проекта команды «АМ Медиа»Проведение тестирования не вызвало негативной реакции со стороны сотрудников. Хотя фишинговые сообщения активно обсуждались внутри коллектива, жалоб руководству или недовольства вида «зачем вообще было устраивать такую проверку» не возникло. Основной интерес был сосредоточен вокруг самих писем и попыток понять, что именно происходит.Реакция сотрудниковОдним из самых любопытных наблюдений стала реакция сотрудников после первой волны первичного тестирования. Полученные фишинговые сообщения быстро стали предметом обсуждения: сотрудники пересылали их друг другу, задавали вопросы коллегам и пытались разобраться, что происходит.Некоторые пошли ещё дальше и вступали в переписку с отправителем, воспринимая фишинговые письма как реальные рабочие сообщения. Это наглядно показало не только убедительность используемых сценариев, но и то, что практическое столкновение с угрозой вовлекает сотрудников в тему ИБ гораздо сильнее, чем абстрактные примеры из учебных материалов. Во время повторного тестирования такой реакции уже не возникло.Реакция организаторовЕсли для большинства сотрудников тестирование выглядело как неожиданно появившиеся письма в почте, то для команды, которой было поручено тестирование Phishman 2.35 этот проект сопровождался совсем другими эмоциями. Подготовка сценариев, запуск атак и ожидание результатов вызывали ощутимое волнение. Оказалось, что смотреть на ситуацию глазами злоумышленника не так просто, как может показаться со стороны. Приходилось постоянно задавать себе вопросы: какой сценарий покажется правдоподобным, что привлечёт внимание сотрудника, а что, наоборот, вызовет подозрения.Самыми напряжёнными были дни первой волны тестирования. На этом этапе ещё не было понимания, как сотрудники отреагируют на рассылки, насколько убедительными окажутся сценарии и не вызовет ли проверка негативной реакции внутри коллектива. С каждой новой зафиксированной активностью интерес смешивался с тревогой, а результаты ожидались едва ли не с большим нетерпением, чем сам запуск кампании.После завершения эксперимента стало легче: всё задуманное удалось реализовать, результаты были получены и проанализированы. Тем не менее полностью избавиться от мыслей о проделанной работе не получилось. Время от времени возвращаешься к отдельным этапам и задаёшься вопросом: а стоило ли сделать именно так? Может быть, какой-то сценарий можно было построить иначе, а какие-то решения принять по-другому?Наверное, это естественная часть любого практического проекта. Когда работа заканчивается, появляется возможность посмотреть на неё со стороны и критически оценить собственные решения. Именно в такие моменты часто приходят идеи, которые помогают сделать следующие проекты лучше.Сотрудничество с вендоромВ ходе подготовки и проведения эксперимента иногда возникали вопросы, связанные с настройкой платформы, особенностями реализации отдельных сценариев и интерпретацией результатов. Для их решения использовались как переписка, так и рабочие созвоны. Запросы обрабатывались оперативно, что позволяло своевременно получать необходимую информацию и не допускать задержек в выполнении работ. Поддержка была доступна не только в рабочее время, но и в выходные дни.ВыводыПовторное тестирование показало, что тщательно подготовленные и персонализированные фишинговые атаки значительно эффективнее. При наличии качественной разведки злоумышленники способны подобрать убедительный сценарий практически для любого сотрудника. А если специалист может ошибиться, то сотруднику, который не занимается вопросами ИБ каждый день, сделать это ещё проще.Работа в сфере информационной безопасности или информационных технологий сама по себе не защищает человека от фишинга, социальной инженерии и других современных атак. Мы убедились в этом на собственном опыте: даже профильные знания не гарантируют, что человек не попадется на хорошо продуманную атаку. Злоумышленники постоянно меняют сценарии, поэтому знания, полученные однажды, быстро устаревают.При помощи эксперимента мы не только проверили, насколько сотрудники готовы распознавать атаки, но и поняли, как с помощью Phishman 2.35 можно сделать работу по развитию киберкультуры системной. Вместо отдельных курсов появился понятный цикл: смоделировать атаку, оценить реакцию, провести обучение и проверить, изменилось ли поведение участников. При необходимости — повторить или скорректировать процесс при помощи рекомендаций платформы. Результаты фиксируются автоматически, поэтому можно видеть, какие темы требуют больше внимания, и развивать киберкультуру на основе реальных данных, а не предположений.Читать далее
    • PR55.RP55
    • santy
      RP55, есть у тебя ТГ?
×