Перейти к содержанию
Сергей Ильин

Тест антивирусов на поддержку упаковщиков II (подготовка)

Recommended Posts

Сергей Ильин

Коллеги, мы реанимируем идею проведения очередного теста антивирусов на поддержку упаковщиков. Как вы знаете, первый тест антивирусов на поддержку пакеров был опубликован еще в Августе 2006. Второй, к сожалению, сорвался по различным причинам.

Я помню, что методология этого теста подверглась критике, особенно представителями зарубежных вендорами Eset и F-Prot и нашим Доктором Вебом. Поэтому надеюсь на вашу помощь в выработке/доработке методологии.

Планируемые нововведения (отличия от предыдущего теста):

1. Пакеров будет больше, будут использоваться различные версии (Т.е. исключительно свободные или ломанные/зарегенные тулзы

все версии, способные генерить на выходе exe-шники безо всяких демо-сообщений и т.п. + сломанные и "расковырянные" именнно для упаковки малвары) Всего будет около 140 наименований упаковщиков и порядка 300 версий.

2. Вредоносы будут браться наиболее редкие, но детектируемые всеми, чтобы максимально исключить вероятность детект поверх пакера.

3. Из списка продуктов будет удалены UNA и CA.

4. Вероятнее всего будет изменена система оценки результатов. Будет градация (Полная поддержка - Частичная поддержка - Отсутствие поддержки).

5. Будет произведена проверка на ложные срабатывания

6. Частично будет изменены критерии для присуждения наград.

Этот тест будет проводить NickXists уже в самое ближайшее время.

Релиз - декабрь 2007.

**************************************

Если ли какие-то еще пожелания или замечания по тесту?

Готов ответить на любые вопросы. Надеюсь, что их будет много.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
NickXists

Относительно F-Prot:

откровенно порадовало добавление правил эвристики "Eldorado"

( http://forum.f-prot.com/index.php/topic,737.0.html )

и сопутствовавшее данному факту более или менее внятное наименование найденного

(по сравнению с ранее виденным "кажется, я что-то нашел" aka "[Found possible virus] <{no name} (not disinfectable)>", значительно осложнявшим трактовку результатов)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
DWState

Настройки всех я так понимаю будут на максимум дабы опять таки исключить лишние вопросы позже.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
NickXists
Настройки всех я так понимаю будут на максимум дабы опять таки исключить лишние вопросы позже.

Да, конечно: все продукты будут настроены на макс. эффективность проверки.

---------------------------------------------------------------

По этому поводу есть небольшой вопрос отн-но

Vba32 и F-Prot

У Vba32 есть следующие настройки

.../PM[+|-]             - thorough check mode (VERY slow);/HA=[0|1|2|3]        - heuristic analysis level (0 - disabled, 2 - maximum);...

/PM+ замедлял процесс проверки примерно на 1/4

(а в итогах, в числе прочего, указывается и время проверки)

При иcпользовании крайнего значения /HA увеличится число ложняков (например, av подозревает Pinch-а там, где он и рядом не валялся)

---------------------------------------------------------------

Аналогично с F-Prot:

при задирании "уровня" эвристики в крайнее положение существенно увеличится число ложняков, но, вероятно, что-то будет и "зачтено"

---------------------------------------------------------------

Как правильнее мерять : ) ?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
dan

И так и так.

И на настройках по умолчанию и на максимальных.

Заодно увидим качество настроек каждого вендора.

Насколько хорошо был выбран уровень по умолчанию ;) .

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин

В идеале было бы здорово проверить при дефолтовых и максимальных настройках. Думаю тут много бы всего интересного вылезло, особенно по фолсам.

Единственное, это заметно увеличит время тестирования и обработки результатов.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Umnik

За каждый фолс - 0,5 штрафных балла.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
NickXists

Согласен, при проверке при (настройках по default-у) / ("выкрученных" на максимум) статистика получилась бы еще интереснее.

Время обработки результатов увеличится (не в два раза, но в >> 1.5 точно).

В принципе, при наличии достаточного интереса ничто не мешает сделать так.

---------------------------------------------------------

Добавлено спустя 19 минут 15 секунд:

За каждый фолс - 0,5 штрафных балла.

Если на грубом примере.

Проверка на определенной версии распространенного (для защиты вполне легального софта) протекторе N дала результат вида:

- продукт A - детект 40 из упакованных 100 файлов; фолсов 0;

- продукт B - детект 60 из упакованных 100 файлов; плюс 20 фолсов

(Грубо говоря: если упаковать блокнот с настройками A...B...C - он будет определен, например, как Trojan.x.x)

Что лучше для пользователя?

-------------------------------------------------

На мой взгляд, система штрафных баллов в данном случае - не лучший вариант, а пропорции - спорны.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин

Штрафовать не стоит. Правильнее в выводах четко отметить, за счет чего достигается высокий детект упакованных зловредов у некоторых антивирусов.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Umnik

Хорошо. Согласен. Но упоминать о фолсах все-таки стоит. Ибо из-за фолса пользователь может снести любимое ПО.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
DWState

Нет друзья по стойте, какие фолсы и скорость. Вопрос лежит либо детект либо нет детекта, неважно с какой скоростью, важно смог распаковать или нет я так понимаю, а то потом невидна будет общая картина теста, если все будут говорить о фолсах и о скоростях, а ведь идея не в этом а в поддержке пакеров.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
dan

По моему, если антивирус фолсит на упакованный каким то пакером объект, то поддержка данного пакера спорна ;) .

Если только пакер не малварный, типа NSAnti.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
NickXists

1.) Фолсы не учитываются при подсчете результатов

в_следующем_смысле:

на примере

"продукт B - детект 60 из упакованных 100 файлов; плюс 20 фолсов"

в результатах по данной версии данного пакера будет фигурировать

60/100

Фолсы - отдельной таблицей.

По моему, если антивирус фолсит на упакованный каким то пакером объект, то поддержка данного пакера спорна ;) .

Если только пакер не малварный, типа NSAnti.

В этом случае для данного продукта в соотв. поле будут цифры.

Например:

Таблица "Результаты детекта" -> : 60/100

Таблица "Ложные срабатываения" -> 20/100

Как вам такой вариант?

dan, и еще один момент : )

является ли, например, ExeCryptor (не ломанный exe-шник, а честно : ) зарегенный на, к примеру, Джона Ли Хукера) малварным пакером ?

И является ли реакция Kav вида "Packed.Win32.CryptExe..."

на все файлы, им "запротекченные" чем-то, отличным от фолса?

-------------------------------

Нет друзья по стойте, какие фолсы и скорость. Вопрос лежит либо детект либо нет детекта, неважно с какой скоростью, важно смог распаковать или нет я так понимаю, а то потом невидна будет общая картина теста, если все будут говорить о фолсах и о скоростях, а ведь идея не в этом а в поддержке пакеров.

2.) время будет указано как "факультативный" : ) параметр.

Просто для сведения:

"Вот за такое время продукт A проверил тестовый набор,

а за такое - продукт B на той_же_системе, в ~тех_же_условиях"

(влияние колебаний влажности воздуха, лунных приливов и увеличения поголовья тушканов в Мексике в расчет не принимаются : )

На результат теста пакеров данное число не влияет и ни в какие суммы не входит.

Если тест дает такую информацию, отчего бы ее не показать...

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин

Я считаю, что срабатывание на запакованный любым пакером Нотепад - фолса :-) Будем забираться уже по факту, хотел этого производитель или нет, малварный пакер или нет.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
dan
dan, и еще один момент : )

является ли, например, ExeCryptor (не ломанный exe-шник, а честно : ) зарегенный на, к примеру, Джона Ли Хукера) малварным пакером :) ?

И является ли реакция Kav вида "Packed.Win32.CryptExe..."

на все файлы, им "запротекченные" чем-то, отличным от фолса?

Если это "скарденная" версия пакера, которую использовали исключительно вирмаки, то почему бы не задетектить.

А если детектить всё подряд запакованное купленной тулзой, то конечно 100% фолса.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Семашко
По этому поводу есть небольшой вопрос отн-но

Vba32 и F-Prot

У Vba32 есть следующие настройки

.../PM[+|-]             - thorough check mode (VERY slow);/HA=[0|1|2|3]        - heuristic analysis level (0 - disabled, 2 - maximum);...

/PM+ замедлял процесс проверки примерно на 1/4

(а в итогах, в числе прочего, указывается и время проверки)

При иcпользовании крайнего значения /HA увеличится число ложняков (например, av подозревает Pinch-а там, где он и рядом не валялся)

Применять /pm и /ha=3 при сканированиия с помощью VBA32 официально не рекомендуется (в GUI интерфейсе при попытке выставить эти настройки выдается дополнительное предупреждение). Консольный сканер возмущаться не будет, но информация о том, что для эвристики '2 - maximum' не является опечаткой. Данные настройки предназначены только для тех случаев, когда антивирус при стандартных настройках ничего не находит, но пользователь подозревает что на компьютере творится что-то неладное и хочет найти наиболее подозрительные файлы для дальнейшего анализа.

Обычных настроек '/ha=2' и '/af' должно быть достаточно для тестирования. В GUI сканере вообще по умолчанию выставлен уровень эвристики эквивалентный /ha=1.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
NickXists

-> Сергей Семашко:

т.е. в качестве максимальных настроек рекомендуется использовать

/M=2 /HA=2?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Семашко
-> Сергей Семашко:

т.е. в качестве максимальных настроек рекомендуется использовать

/M=2 /HA=2?

Да

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин

Раз возражений больше нет, то можно приступать к тесту :-)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
NickXists

Да, в общем, видимо, все, кто хотели высказаться, уже сделали это : )

А возражений "по факту" все равно будет...

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Dr.Golova

> А возражений "по факту" все равно будет...

Да, будет :) Если будете тестить семерку, возьмите хотябы один файл, который однозначно берется эвристикой, а не только сигнатурами. Узнаем сколько пакеров может пройти новый эмулятор на дефолтовых настойках :) В смысле если после упаковки детект стал не сигнатурным а эвристическим, значит native поддержки пакера нет, но эмулятор его проходит.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
NickXists
> А возражений "по факту" все равно будет...

Да, будет :) Если будете тестить семерку, возьмите хотябы один файл, который однозначно берется эвристикой, а не только сигнатурами. Узнаем сколько пакеров может пройти новый эмулятор на дефолтовых настойках :) В смысле если после упаковки детект стал не сигнатурным а эвристическим, значит native поддержки пакера нет, но эмулятор его проходит.

Ну вот и первые претензии : )

Сорри, Dr.:

рад бы, но набор уже устаканился и во весь опор "кипит работа".

Видимо, это будет одним из пробелов.

Нет, блин, предела совершенству : )

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
NickXists

Есть ли какие-либо предложения насчет состава набора для проверки фолсов?

Интересуют три момента:

1.) Есть ли внятные аргументы против того, что ложные срабатывания будут проверяться только на тех тулзах, которые предусматривают использование в "мирных целях"?

Говоря проще - это минус крипторы и прочие конструкторы, однозначно заточенные под малвару.

2.) Какие предложения непосредственно по составу файлА?

Есть ли, что дополнить по комплекту вида

{стандартные файлы Win} + {нераспространенные standalone exe-шники} ?

3.) Нет ли принципиальных возражений отн-но того, что в под-тесте на ложняки будут фигурировать только exe?

т.е. w/o dll/sys/... и т.д.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин
1.) Есть ли внятные аргументы против того, что ложные срабатывания будут проверяться только на тех тулзах, которые предусматривают использование в "мирных целях"?

По хорошему, интересно посмотреть все тестируемые упаковщики на "фалсы". Будет видно, кто ставит вердикты по упаковщику, а кто реально поддерживает его.

2.) Какие предложения непосредственно по составу файлА?

Есть ли, что дополнить по комплекту вида

{стандартные файлы Win} + {нераспространенные standalone exe-шники} ?

Поддерживаю. ИМХО будет достаточно такого комплекта.

3.) Нет ли принципиальных возражений отн-но того, что в под-тесте на ложняки будут фигурировать только exe?

т.е. w/o dll/sys/... и т.д.

У меня нет возражений.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

  • Сообщения

    • AprilNox
      Has anybody used CBD before? I am very keen to get some CBD Honey Sticks for coughing. Can someone recommend a good brand? I'm presently contemplating JustCBD and Goldleaf Spektrum. Many thanks
    • Ego Dekker
      Антивирусы для macOS были обновлены до версии 6.10.700.
    • ForetFR
      CLIMB Hearsay from Earth - https://mebonus.ru
      Google №Wet

      Palestinians scoot as Israel bombards haunts from style, swell and sod!!!

      Google Hearsay

      People in Gaza fled their homes carrying crying children and valued possessions as Israeli forces pounded the vicinage from aura, adrift and land on Friday.
      The escalating controversy triggered furious protests in the occupied West Bank, where seven Palestinians were killed by way of Israeli army fire, and moreover fury between Arabs and Jews in Israel.
      Hamas praised the clashes between stone-throwing youths and Israeli soldiers in the West Bank grevorgАЛИdVhower , m‚tier on Palestinians to “set the ground ablaze under the feet of the rule”.
      Google RUMOUR - Wet
      In a meritorious escalation in the worst bout of fighting between Israel and Hamas looking for seven years, oppressive artillery fire was aimed at what the Israeli military said was a hefty network of fighter tunnels. Dozens of Hamas operatives were killed in the strikes, the Israel Apologia Forces (IDF) said.
      Palestinian protesters burn tyres and throw stones at Israeli forces in the West Bank community of Nablus

      There was gallimaufry overnight after the IDF corrected an earlier communiqu‚ saying that base troops were “currently attacking in the Gaza Strip”. A blemished proclamation clarified that there was no excuse sediment aggression, but artillery and tank vivacity from the border. “Clarification: there are currently no IDF establish troops reversed the Gaza Strip. IDF current and area forces are carrying out strikes on targets in the Gaza Strip,” it said.
      What is the current Israel-Gaza turning-point far and where is it heading?
      Deliver assign to more - GOOD COPY - in cak

      Analysts suggested it was a purposeful ploy intended to onwards elder Hamas figures to split for into a network of hidden tunnels known as “the metro”. Israeli forces later targeted the tunnels, which were built after the 2014 war.
      An IDF asseveration said 160 aircraft had “struck over 150 subterranean targets in the northern Gaza Shed one's clothes” overnight. Israel’s forces destroyed “many kilometres” of the tunnels during the assail, it claimed.
      A multi-storey building casing a bank affiliated with Hamas was destroyed, and weapons opus and naval sites were also smash, it said.

      Palestinians living in areas closed to the Gaza-Israel frieze fled their homes in pickup trucks, on donkeys and on foot. Some went to UN-run schools in Gaza Urban district, carrying small children, household essentials and food.
      Hedaia Maarouf, who left-wing her serene with her extended kinfolk of 19 people, including 13 children, said: “We were terrified instead of our children, who were screaming and shaking.”
      A Palestinian kindred flees their home in Beit Lahya in the northern Gaza Strip?
      In northern Gaza, Rafat Tanani, his having a bun in the oven strife and four children were killed after an Israeli warplane reduced a building to rubble, residents said.
      Bill - Matt Gaetz associate pleads contrite to sexual congress trafficking crimes – US manipulation animate Bouts

      The death chime in Gaza rose to over and above 120, with a dressy increase in the number of people injured in the overnight onslaught, according to the Gaza health ministry. At least 31 children bear been killed.
      Hospitals that were already struggling to wine patients with Covid received an influx of people with shrapnel wounds and other injuries. Some needed amputations. “All I can do is beseech,” said one hospital director.
      The UN said more than 200 homes and 24 schools in Gaza had been destroyed or severely damaged in Israeli bearing raids in the lifestyle five days. It also said residents’ access to inexperienced spa water could be limited because of power cuts and harm to pipe networks.
      Increased power blackouts are expected as nuclear fuel supplies off low. Most families already exclusively have power in regard to four or five hours a daylight, and hospitals are stiff to rely on generators.

      Hamas and other militant groups continued to fusillade rockets into Israel, where example sirens sounded in towns and communities. The Israeli military said it had intercepted at least five drones carrying explosives launched from Gaza since Thursday.
      Read more Scandal - HEARSAY - in Wet

      Statistic Tidings Front-page news
      http://mebonus.ru - Front-page news of Googles
    • кустомер
      Всем здравствуйте. СРАЗУ оговорка:
      Кнопка "Создать новую тему" только на главной странице форума.
      В выпадающем её меню НЕактивны абсолютно все разделы кроме этого.
      Тему разместить хотелось-бы в другом разделе.
      Ответ на тот вопрос ― наверное поэтому.
      Собственно по делу -
      У кого из считающих себя "мастером_своего_дела" могло-бы появиться желание
      подумать и высказать своё предположение метода проникновения файла сценария
      с печеньями (cookies) после того, как весь IP-диапазон адреса хранения файла
      был заблокирован в настройках Outpost, отлично справляющегося по сей день
      с блокировкой ЛЮБЫХ других (кроме этого) IP-диапазонов? Адрес(имя) файла:
      https://mc.yandex.ru/metrika/watch.js Outpost навскидку можно сравнить с другими продуктами защиты - там.

      Вопросы типа "а-зачем-вам-это-надо" будут
      расценены как флуд, отвлекающий от темы. (уважаэмым модераторам)
      Тема относится к способу проникновения этой заразы, а не к конкретному продукту защиты.
    • demkd
      на него уже давно не реагируют они сейчас самый опасный report_crash что дампы отправляет  
×