Перейти к содержанию
Сергей Ильин

Фундаментальные принципы тестирования от AMTSO

Recommended Posts

Сергей Ильин

AMTSO (Anti-Malware Testing Standards Organization) совсем недавно опубликовала документ "AMTSO - Fundamentals Principles of Testing", описывающий фундаментальные принципы тестирования антивирусного ПО. Документ ранее был известен специалистам, но теперь авторы решили выложить его в публичный доступ, чтобы получить комментарии сообщества.

Все кому интересен документ могут с ним ознакомиться

AMTSO__Principles_final_RFC.pdf

Основных принципов получилось девять:

1. Testing must not endanger the public.

2. Testing must be unbiased.

3. Testing should be reasonably open and transparent.

4. The effectiveness and performance of anti‐malware products must be measured in

a balanced way.

5. Testers must take reasonable care to validate whether test samples or test cases

have been accurately classified as malicious, innocent or invalid.

6. Testing methodology must be consistent with the testing purpose and should meet

the needs of the target audience.

7. Test results should be statistically valid.

8. Vendors, testers and publishers must have an active contact point for testingrelated

correspondence.

9. Testers are encouraged to provide relevant feedback to vendors with regard to

observed product deficiencies during a test.

AMTSO__Principles_final_RFC.pdf

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Deja_Vu

Это всё, что за все время существования AMTSO они сделали? %)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
alexgr

Почему-то в отечественных документах по испытаниям и тестированиям принципов больше и они более понятны и вразумительны

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Ego1st

помоему к таким фундаментальным принципам пришли на anti-malware.ru почти в самом начале существования ресурса=)) :lol:

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин
Это всё, что за все время существования AMTSO они сделали? %)

Вспомните, сколько уже идет работа над евроконституцией? А тут не прошло и года, как есть черновик с перечисленными принципами. :)

Почему-то в отечественных документах по испытаниям и тестированиям принципов больше и они более понятны и вразумительны

У меня тоже создалось ощущение невнятности документа, слишком много общих слов и абстракции. Хотя, может быть, на этом уровне без этого ни как не обойтись ...

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Deja_Vu

Нет, я конечно понимаю что это один из начальных уровней абстракции, но хоть какой то конкретики могли бы достичь. А то блин, я такие списочки за чаем могу сочинять ^_^

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин

Фундаментальные принципы тестирования от AMTSO обновились

http://www.amtso.org/documents/doc_downloa...of-testing.html

Кроме этого, 31 октября был принят еще один документ "AMTSO Best Practices for Dynamic Testing"

http://www.amtso.org/documents/doc_downloa...ic-testing.html

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин

Прошел год, подводим его итоги.

В соответствие с принципами и рекомендациями AMTSO сделаны два теста:

AV-Comparatives.org Whole Product Dynamic Test (декабрь 2009)

AV-Test.Org Real-World Malware Protection Report (декабрь 2009)

Анализ и обсуждение результатов тестов мне лично говорит о том, что их ценность низкая. Почти все антивирусы хорошие, эффективные, просто красота и идилия.

Какие будут мнения на этот счет у сообщества?

Сама идея AMTSO показывает свою несостоятельность? Или просто первый блин комом?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Danilka

Думаю стоит поглядеть на продолжение подобных тестов- что будет далее, хотябы со следующими линейками (2011) - а так на глаз- первое что интересно- как отбирались семплы, ссылки и т.д.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Илья Рабинович
Сама идея AMTSO показывает свою несостоятельность? Или просто первый блин комом?

Ну, я думаю, что первый пробный динамический тест АМ тоже был не до конца продуман сначала. Помнишь, какие были баталии на закрытом форуме?

Фундаментально- всё сделано правильно. Дьявол кроется, как всегда, в мелочах типа отбора семплов.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Deja_Vu

Если столько обсуждается начальная теория, то когда ж дело дойдет до практики.

Или не будет от АМИТСО ни 1 теста? Аля стандарты w3c, которых в принципе нет, ибо нет браузера который их соблюдает.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

  • Сообщения

    • Ego Dekker
    • ArktiTig
      Арктика - северная полярная область Земли, включающая окраины материков Евразии и Северной Америки, почти весь Северный Ледовитый океан с островами и прилегающие к нему части Атлантического и Тихого океанов. Название её происходит от греческого слова arctos (медведь) и связано со звёздами: Полярная звезда, находящаяся почти точно в зените над Северным полюсом, принадлежит к созвездию Малая Медведица.
    • ArktiTig
      Арктика - северная полярная область Земли, включающая окраины материков Евразии и Северной Америки, почти весь Северный Ледовитый океан с островами и прилегающие к нему части Атлантического и Тихого океанов. Название её происходит от греческого слова arctos (медведь) и связано со звёздами: Полярная звезда, находящаяся почти точно в зените над Северным полюсом, принадлежит к созвездию Малая Медведица.
    • PR55.RP55
      .xml  файлы taskschd.msc Могут быть подписаны  цифровой подписью. Думаю будет нелишним, если uVS будет это фиксировать. т.е. проверять не только подпись целевого файла, но и подпись самого файла\задачи. и писать в ИНфО .  
    • demkd
      ---------------------------------------------------------
       4.15.2
      ---------------------------------------------------------
       o Исправлена ошибка при работе с образом автозапуска.
         Для некоторых процессов команда unload не добавлялась в скрипт при нажатии кнопки "принять изменения".  o Добавлена плашка окна на таскбаре для окна удаленного рабочего стола.
         (при работе с удаленной системой) -----------------------------------------------------------
      Есть проблема с локализацией глюка в редких случаях приводящему к аварийному завершению uVS при активном флаге "Проверять весь HKCR".
      На основе дампов его найти не получается, нужна копия реестра системы с такой проблемой, если кому-то попадется такая проблема, то присылайте архив с копией реестра системы мне на почту.  
×