Перейти к содержанию
Сергей Ильин

Тест фаерволов на защиту от внутренних атак II

Recommended Posts

Сергей Ильин

Мы в низком старте нового теста фаерволов на защиту от внутренних атаке (аля самозащита).

Если кто-то вдруг забыл, то это такой вот тест http://www.anti-malware.ru/forum/index.php?showtopic=19500

В этот раз мы хотим провести тест на Windows 7 x86, а осень повторить его уже для Windows 7 x64.

Набор методов атаки для теста мы практически не будем менять. Несколько из тех, что были в прошлый раз для XP, не работают на Window 7. Несколько мы думаем добавить. В итоге общий набор методов для атак будет около 40.

Сейчас основной вопрос в том, кого тестировать, а кого нет. Прошлый список хочет несколько оптимизировать.

Avast! Internet Security

AVG Internet Security

Avira Internet Security

BitDefender Internet Security

Comodo Internet Security

DefenseWall Personal Firewall

Dr.Web Security Space

Eset Smart Security

F-Secure Internet Security

G DATA Internet Security

Jetico Personal Firewall

Kaspersky Internet Security

McAfee Internet Security

Microsoft Security Essentials

Norton Internet Security

Online Armor Premium Firewall

Online Solutions Security Suite

Outpost Security Suite Pro

Panda Internet Security

PC Tools Internet Security

Trend Micro Titanium Internet Security

ZoneAlarm Internet Security Suite

Я предлагаю убрать их теста Online Solutions Security Suite как непопулярный. Также под вопросом DefenseWall, т.к. в прошлом году многие протестовали против его сравнения с традиционными антивирусными продуктами.

Буду рад услышать любые комментарии по методике теста и списку участников.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Snejoker

1) Предлагаю перенести тестирование на Windows 7 x86 на осень. А на х64 сейчас.

2) А встроенный виндовый файрволл будет тестироваться? Или он тоже не распространенный?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
KIS_fan

есть ещё MalwareDefender и PrivateFirewall > имеют HIPS

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
KIS_fan

Оффтоп

Не хотите обновить тест на самозащиту продукта ? А то последний тест был сделан 2 года назад.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин
1) Предлагаю перенести тестирование на Windows 7 x86 на осень. А на х64 сейчас.

Не получится технически. Для х64 нужно переписывать ряд утилит. Это время. Поэтому и решили сделать сначала на x86. Популярность этих версий 7-ки примерно одинакова.

2) А встроенный виндовый файрволл будет тестироваться? Или он тоже не распространенный?

Будет и он есть в списке - Microsoft Security Essentials (+ штатный фаервол Windows).

Не хотите обновить тест на самозащиту продукта ? А то последний тест был сделан 2 года назад.

Данные тест во многом дублирует тест на самозащиту. Поэтому для не уверен, что мы будет его повторять.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
VIKING

Хотелось бы увидеть в списке новые лица, например TrustPort IS 2013 ...

Очень хотелось бы увидеть объективный результат....

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
amid525
Очень хотелось бы увидеть объективный результат....

Это как?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
VIKING

Очень просто =

Хотелось бы увидеть работу АВ в оптимальных режимах теста...

Его реальные возможности, соответственно все плюсы и минусы...

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
priv8v

1. Предлагаю пересмотреть подход к случаям, когда ав-комплекс крэшится (даже какая-то его часть, хоть GUI). Продукт частично грохнулся - самозащита плохая, функционал нарушен - все, 0 баллов. Даже если тестовое действие было заблокировано. А ничего что он при этом вообще всю деятельность в системе заблокировал? то, что теперь все запрещено (или наоборот, все разрешено). А то нет логики - если позорно упав нечаянно всю систему заблокировал - это плюс один, а если корректно обработал хук и спросил у юзера "а что тут делать?" - 0.5 балла. Выходит лучше падать или вообще все лочить.

2. Ситуация с запросом - допустим, продукт спросил об попытке установки драйвера двумя способами. Итого он получит 1 балл. А тот продукт, который один способ тупо заблочил или вообще не обработал (просто самозащита не дает работать такому способу, а хуки на это не поставлены и корректно обработать данный кейс в случае атаки не на него а на систему он не сможет), а второй пропустил - тоже получит 1 балл.

3. Одно дело, когда антивирус на дефолтных настройках молча подавляет попытку TerminateProcess, а другое, когда спрашивает о недокументированной загрузке неподписанного драйвера - т.к если тупо заблочить, то у юзера софт может не работать (какие-нибудь там даемон_тулзы и прочая фигня). Т.е вопрос вопросу рознь. Одно дело когда вопрос на каждый чих как от OSSS и другое дело, когда вопросы о каких-то реально критичных событиях. Причем алерты тоже разные бывают - бывает что если приложение недоверенное (тестовые кейсы, например, ведь их нет в базе чистых и вообще они подозрительны), то алерт угрожающий и по его тексту и внешнему виду понятно что надо бы запретить если не уверен.

4. Если на дефолтных настройках продукт тупо блокирует все кейсы, то это, простите, тупая заточка. Если все эти действия блочить, то как с таким продуктом работать - половина софта корректно работать не будет, т.к продукт все лочит тупо. Т.е еще раз предлагаю пересмотреть политику начисления баллов продукту, который спрашивает.

5. В каких-то продуктах есть правила для приложений, где-то нет. Есть базы чистых, предустановки и на выход в сеть и на поведение в системе для большинства популярных программ и т.д... - так вот при тестировании все это не учитывается ведь. Т.е кто-то все тупо молча лочит хорошей самозащитой, но при этом нужных хуков в системе у него не поставлено...

6. Немного странно видеть когда продукт, у которого поставлены хуки на все что можно (все кейсы или заблочит молча или спросит) оказывается по тесту хуже того у которого и технологий то таких нет - треть пропускает т.к он не дорос еще до таких хуков. Логика такая - если у продукта стоят такие хуки, то на дефолтных настройках есть много правил (ну, кроме как у OSSS и еще схожего вендора) которые определяют его активность в системе, а вот если приложение неизвестно (тестовый кейс, зловред), то на особо хитрое мутное действие может быть и алерт - т.к файл юзер сам скачал и запустил, кто его знает, может этот функционал ему нужен...

  • Upvote 10

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин
1. Предлагаю пересмотреть подход к случаям, когда ав-комплекс крэшится (даже какая-то его часть, хоть GUI). Продукт частично грохнулся - самозащита плохая, функционал нарушен - все, 0 баллов. Даже если тестовое действие было заблокировано. А ничего что он при этом вообще всю деятельность в системе заблокировал? то, что теперь все запрещено (или наоборот, все разрешено). А то нет логики - если позорно упав нечаянно всю систему заблокировал - это плюс один, а если корректно обработал хук и спросил у юзера "а что тут делать?" - 0.5 балла. Выходит лучше падать или вообще все лочить.

ИМХО слишком жестко получается. По факту же крушение GUI, например, может не нарушать работу защитных функций антивируса. В последнем тесте за крушение того же GUI не снималось баллов. Замечу, что это было сделано по обратным просьбам, что мол неправильно снимать баллы за креш какого-то GUI или другого незначительного процесса, атака то предотвращена.

2. Ситуация с запросом - допустим, продукт спросил об попытке установки драйвера двумя способами. Итого он получит 1 балл. А тот продукт, который один способ тупо заблочил или вообще не обработал (просто самозащита не дает работать такому способу, а хуки на это не поставлены и корректно обработать данный кейс в случае атаки не на него а на систему он не сможет), а второй пропустил - тоже получит 1 балл.

Понимаю о чем вы. Здесь логика такая, что идеалогически не хочется поощрять тех, что пугает юзеров страшными алертами по поводу и без. Так можно сделать поделку, которая будет ругаться на каждый чих и выиграть тест. И так было куча криков по поводу DefenseWall, который блочит все, не имея анализа контекста событий.

3. Одно дело, когда антивирус на дефолтных настройках молча подавляет попытку TerminateProcess, а другое, когда спрашивает о недокументированной загрузке неподписанного драйвера - т.к если тупо заблочить, то у юзера софт может не работать (какие-нибудь там даемон_тулзы и прочая фигня). Т.е вопрос вопросу рознь. Одно дело когда вопрос на каждый чих как от OSSS и другое дело, когда вопросы о каких-то реально критичных событиях. Причем алерты тоже разные бывают - бывает что если приложение недоверенное (тестовые кейсы, например, ведь их нет в базе чистых и вообще они подозрительны), то алерт угрожающий и по его тексту и внешнему виду понятно что надо бы запретить если не уверен.

Предлагаете веса для разных кейсов сделать?

4. Если на дефолтных настройках продукт тупо блокирует все кейсы, то это, простите, тупая заточка. Если все эти действия блочить, то как с таким продуктом работать - половина софта корректно работать не будет, т.к продукт все лочит тупо. Т.е еще раз предлагаю пересмотреть политику начисления баллов продукту, который спрашивает.

Такой всего один - DefenseWall, но у него такая логика работы. Точнее полтора, есть еще параноидальный Comodo. И их поэтому хотели в прошлый раз убрать из теста и отчета.

5. В каких-то продуктах есть правила для приложений, где-то нет. Есть базы чистых, предустановки и на выход в сеть и на поведение в системе для большинства популярных программ и т.д... - так вот при тестировании все это не учитывается ведь. Т.е кто-то все тупо молча лочит хорошей самозащитой, но при этом нужных хуков в системе у него не поставлено...

Помню кто-то предлагал попробовать поставить несколько приложений и записать сколько алертов пользователю будет выведено. Это будет маркером параноидальности (дебильности) продукта.

Делаем? Если да, то давайте решим какие программы берем для этого, много не нужно, тут нужно показать качественно различия в подходах вендоров.

6. Немного странно видеть когда продукт, у которого поставлены хуки на все что можно (все кейсы или заблочит молча или спросит) оказывается по тесту хуже того у которого и технологий то таких нет - треть пропускает т.к он не дорос еще до таких хуков.

Разве это не проблемы вендоров? Каждый сам выбирает для своего продукта логику работы.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Илья Рабинович
И так было куча криков по поводу DefenseWall, который блочит все, не имея анализа контекста событий.

Моя программа блокирует только ту активность, что может быть вредоносной либо потенциально опасной. Без, за редчайшим исключением, запроса к пользователю. И только для тех процессов, что могут быть потенциально опасными. Ну а криков было по одной причине- я выиграл тест. Ты думаешь, если бы я тест проиграл, хоть кто-нибудь издал бы хоть писк? :D

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Umnik

Криков было, потому как на каждый инсталлятор был запрос доверия. Под "каждый", конечно, подразумевается на офис и флеш.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Илья Рабинович
Криков было, потому как на каждый инсталлятор был запрос доверия.

И это неправда. Запрос на выбор зоны возникает только в случае запуска неизвестного файла, лежащего внутри одной из папок "Зоны загрузки". По методологии, для DefenseWall запуск производился с флешки (по умолчанию в недоверенных по понятным причинам), а она вне "Зоны загрузки", так что никаких запросов в данном случае быть не могло в принципе.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
priv8v
ИМХО слишком жестко получается. По факту же крушение GUI, например, может не нарушать работу защитных функций антивируса. В последнем тесте за крушение того же GUI не снималось баллов. Замечу, что это было сделано по обратным просьбам, что мол неправильно снимать баллы за креш какого-то GUI или другого незначительного процесса, атака то предотвращена.

Крэш ГУИ = потеря функциональности. Как в такой системе работать можно? Ворд сможет документ сохранить или 1С? Какие еще запросы втихую подавятся продуктом? Если скрэшился - значит кривая реализация такого хука или вообще его нет и он выжил лишь потому, что драйвер и не атаковали - он продолжает поэтому работать и все лочить, а технологии ТАКОЙ защиты на самом деле нет. За крэш ИМХО нужно 0 давать (а еще лучше даже отнимать очков:) )

Понимаю о чем вы. Здесь логика такая, что идеалогически не хочется поощрять тех, что пугает юзеров страшными алертами по поводу и без. Так можно сделать поделку, которая будет ругаться на каждый чих и выиграть тест.

Если говорить про того, кто все похучил и все блочит - это комод и Дефенс Валл (у последнего такова логика работы и к нему претезий нет, все правильно делает). Согласен, что одно дело все повязать хуками (как комод), а другое дело это уметь фильтровать и не надоедать юзеру тупыми непонятными алертами. И тут смущает вот что:

1. От продукта Х два вопроса = 1 балл. От продукта Y один провал и одна блокировка = 1 балл. Т.е результат такой же.

2. Алерт алерту рознь - есть опасные действия в системе, которые тупо лочить нельзя, иначе у юзера даемон_тулзы, дефрагментаторы, твикеры, хард_утилиты, бэкаперы и прочее не будет работать - потому нужно бы спросить. Если это на дефолтных настройках тупо залочено, то нафига такой продукт вообще нужен?

3. Максимальные настройки - тут логика этих настроек у некоторых продуктов разная, кто-то подразумевает, что какие-то действия через настройку можно просто запретить без алертов, а на какие-то будут выдаваться предупреждение, тем более тут от правил зависит для приложений.

Печально, что выхода нормального из этого без исследования логики самого продукта и того насколько у него много правил для приложений и т.д нет, а в тесте это отразить как-нибудь надо. Потому предлагаю на выбор следующие варианты (можно сделать из них коомбинацию):

1. Давать за запрос не 0.5 баллов, а 0.7, например.

2. Ранжирование того что спросил - если спросил чисто про атаку на самого себя, то это одно, а вот если запросил за загрузку неподписанного драйвера, то это нормально. Обычно такой алерт будет отличатся особой страшностью - красный цвет, большие понятные надписи, что если разрешить, то будет жо_па и т.д

3. За запрос в максимальном режиме вообще не снимать баллы - на то режим и максимальный чтобы все блочить (блочить то, что явно настроено в настройках что надо блочить), а на все остальное опасное спрашивать. Так что в этом режиме (максимальный) запросы это вполне нормально!

Предлагаете веса для разных кейсов сделать?

Хорошо бы сделать. Например увеличение баллов за прохождение адвансед левела (самых сложных экзотичных функций).

Такой всего один - DefenseWall, но у него такая логика работы. Точнее полтора, есть еще параноидальный Comodo. И их поэтому хотели в прошлый раз убрать из теста и отчета.

Тестировать Дефенс рядом с классическими продуктами смысла нет. Любой нормальный продукт с кучей хуков (OSSS, KIS, OSS, Comodo) можно за несколько строк кода и пары настроек превратить в такую же песочницу - для того, чему явно не устанавливается статус доверенного все что похучено нафиг блочить, а доверенному все разрешать. Но они работают ведь не по такой логике, а сами решают что блочить, а что нет, и иногда у юзера спрашивают. Т.е песочницу надо с другими сравнивать.

Пусть меня Илья поймет правильно - на его продукт я не наезжаю, но при разной логике работы и при таком тестировании тестить бессмысленно - ежу понятно, что Дефенс все похучил и все запрещает - толку тут тестировать то? Проверять не забыл ли Илья какую-то экзотическую функцию похучить что ли? Все и так верят, что не забыл.

Помню кто-то предлагал попробовать поставить несколько приложений и записать сколько алертов пользователю будет выведено. Это будет маркером параноидальности (дебильности) продукта.

Делаем? Если да, то давайте решим какие программы берем для этого, много не нужно, тут нужно показать качественно различия в подходах вендоров.

обязательно надо. потом предложу список приложений, пусть мозги отдохнут, а то много букв что-то я напечатал, кипеть начали... :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
KIS_fan
[...]

3. За запрос в максимальном режиме вообще не снимать баллы - на то режим и максимальный чтобы все блочить (блочить то, что явно настроено в настройках что надо блочить), а на все остальное опасное спрашивать. Так что в этом режиме (максимальный) запросы это вполне нормально!

[...]

Поддерживаю! В прошлом тесте по такой методике в максимальном режиме, аж 7 продуктов (вместо двух) набрали бы 100% результат.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
priv8v
Помню кто-то предлагал попробовать поставить несколько приложений и записать сколько алертов пользователю будет выведено. Это будет маркером параноидальности (дебильности) продукта.

Делаем? Если да, то давайте решим какие программы берем для этого, много не нужно, тут нужно показать качественно различия в подходах вендоров.

Сергей Ильин, давайте без запары для тех, кто будет делать тест и без экзотики, чтобы заточек не было - что-то простое и распространенное. Предлагаю ставить три браузера: Лиса, Хром, Опера. Поставить их и зайти на какие-нибудь пару сайтов в интернете и посмотреть сколько и каких алертов будет от продукта (разумеется, на дефолтных настройках). Кто-то нормально даст поставить и сам создаст правила для выхода в сеть, а кто-то про каждый чих спросит и будет спрашивать разрешение для захода на каждый сайт...

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Umnik
И это неправда. Запрос на выбор зоны возникает только в случае запуска неизвестного файла, лежащего внутри одной из папок "Зоны загрузки". По методологии, для DefenseWall запуск производился с флешки (по умолчанию в недоверенных по понятным причинам), а она вне "Зоны загрузки", так что никаких запросов в данном случае быть не могло в принципе.

Я так и сказал - любого. Потому что почти все новое ПО у пользователя лежит в зоне загрузки :) Он же его только что скачал. На крайняк - принес на флешке, которая тоже... ;)

Илья, идеология твоего продукта известна всем. Также всем известно, что на ПО, "полученное" из браузера и со сменного носителя, будет запрос. Но это здесь, а за пределами АМ - нет. В итоге люди получают не то, что ожидают. СМИ не рассказывают, как на самом деле ведет себя DW.

Вот в этом главная причина возмущения.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Илья Рабинович
Илья, идеология твоего продукта известна всем.

Да вот выясняется, что нет.

Также всем известно, что на ПО, "полученное" из браузера и со сменного носителя, будет запрос.

Из браузера- только в случае запуска из одной из папок "Зоны загрузки". Со сменного носителя- запроса не будет, сменные носители вне "Зоны загрузки". Накати на виртуалку и посмотри сам, как там всё работает.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Umnik
Из браузера- только в случае запуска из одной из папок "Зоны загрузки".

Да это же дефолтный вариант для браузеров. Они все ее используют.

Со сменного носителя- запроса не будет, сменные носители вне "Зоны загрузки". Накати на виртуалку и посмотри сам, как там всё работает.

Если изменил логику - так скажи. У тебя сменные носители, а затем и сеть, были в зоне Untrusted.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Илья Рабинович
Если изменил логику - так скажи. У тебя сменные носители, а затем и сеть, были в зоне Untrusted.

Я ничего не менял. Ты просто путаешь "Недоверенную зону" и "Зону загрузок". Одно к другому никакого отношения не имеет. Вообще. И ещё раз говорю- поставь программу и проверь, как всё работает.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Umnik

Речь не о терминологии, а о том, что программы по умолчанию не будут trusted.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Killer

@В этот раз мы хотим провести тест на Windows 7 x86, а осень повторить его уже для Windows 7 [email protected]

Можно нескромный вопрос?:) А почему тесты проводятся не устаревших ОС? Когда была w7, тесты проводились на XP, когда вышла и уже год как существует W8, тесты проводятся на W7? Не успеваете? В обычных условиях и не на этом форуме я бы не спрашивал, но выж как никак:

%%%

Anti-Malware.ru - первый в России независимый информационно-аналитический

центр, полностью посвященный информационной безопасности.

%%%

а?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Alex_Goodwin
А почему тесты проводятся не устаревших ОС?

Тесты проводятся на самых массово используемых системах.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Killer

Мне кажется, что в таком случае нужно тестировать обе оси. Потому что обходить самую передовую ОС из линейки win - мне кажется не правильно.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
alamor

Killer windows 8 стоит пока у довольно ограниченного количества пользователей и то у многих из них стоит пока только на виртуалке ;).

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Создайте учетную запись или войдите, чтобы комментировать

Вы должны быть пользователем, чтобы оставить комментарий

Создать учетную запись

Зарегистрируйте новую учётную запись в нашем сообществе. Это очень просто!

Регистрация нового пользователя

Войти

Уже есть аккаунт? Войти в систему.

Войти

  • Сообщения

    • Dima2_90
      Об особенностях сканирования исполняемых файлов антивирусами и доверии результатам VirusTotal - https://habr.com/post/346480/ Цитаты из статьи "Забавно, детект уменьшился с 60 для неупакованного файла и 41 для архива до 17 — при этом ни один из антивирусных движков не обнаружил Eicar, детекты явно имеют эвристический характер, а в ряде случаев напоминают ложное срабатывание (DrWeb, Baidu и др.)" "6 детектов из 67. Шесть, Карл! Все — эвристические. И скорее всего ничего не подозревающий пользователь посчитает файл безопасным." "современные антивирусные сканеры так и остались барахлом, которым были десяток-два лет назад, абсолютно пасующим перед простейшими видами упаковки кода. Решения в виде тестовых сред — «песочниц», эвристических анализаторов и т.д. только добавили неразберихи, ложных срабатываний, но по сути не защищают от реальной угрозы. Со старым, открытым и разжёванным до потрохов UPX как был бардак — так он и остался. А ведь я вполне мог упаковать не файл, вызывающий вредоносную активность, а непосредственно код, работать не с файлами на диске в %temp%, а в памяти, использовать не свободно доступные утилиты, а собственные или закрытые разработки — и таким образом обойти срабатывание резидентной защиты. Я вполне мог добавить интересные элементы интерфейса или скопировать таковой из распространённой программы — и обойти проактивку у неискушённого пользователя, который просто будет соглашаться с любыми запросами, доверяя тому, что запустил.

      То, что мы сделали выше — примитивный способ обмануть антивирус, который может понять и реализовать практически любой. И он сработал. Что говорить про искушённых специалистов!"
    • Dima2_90
      Ad-Aware --------- https://www.adaware.com/support/securitycenter/report_false_positives.php  Antiy-AVL --------- [email protected] Avast --------------- https://www.avast.ru/false-positive-file-form.php AVG ---------------- https://www.avg.com/ru-ru/false-positive-file-form Avira --------------- https://analysis.avira.com/en/submit BitDefender -------- https://www.bitdefender.com/submit/ ClamAV ------------ http://www.clamav.net/reports/fp DrWeb ------------- https://vms.drweb.ua/sendvirus ESET-NOD32 ------- https://www.esetnod32.ru/support/knowledge_base/new_virus/ Kaspersky --------- https://virusdesk.kaspersky.ru/ Microsoft ---------- https://www.microsoft.com/en-us/wdsi/filesubmission NANO-Antivirus ---- http://nanoav.ru/index.php?option=com_content&view=article&id=15&Itemid=83&lang=ru Symantec ---------- https://submit.symantec.com/false_positive/
    • Липковский Борис
      Вдруг понадобится, спасибо за информацию.
    • Липковский Борис
      Я собираю с разных стран магнитики. Это очень круто.
    • Липковский Борис
      Каждый находит свое увлечение.Заработок зависит от работы которую ты умеешь делать на отлично. Самое главное если есть время.
×