Сергей Ильин

Тест эргономичности корпоративных антивирусов

В этой теме 38 сообщений

Уважаемые коллеги, недавно мы провели тест эргономичности персональных антивирусов. Несмотря на ряд замечаний, тест вызвал интерес и мы хотим провести данный тест для корпоративных антивирусов. В общем-то проверка юзабилити корпоративных продуктов и было изначальной целью тестов этого класса.

За основу методологии к данному тесту предлагается брать методологию к теста персональных версий, внеся в нее ряд существенных изменений:

1. В исследовании будут принимать участие только эксперты, обычные пользователи не участвуют. Причина – сложность оцениваемых приложений. Для экспертов администрация anti-malware предлагает прочесть несколько лекций по особенностям работы с корпоративными антивирусами, а после провести тестирование из знаний и умений. Это позволит снять сомнения в квалификации экспертов. Также предлагается увеличить количество экспертов с 5 до 7 человек.

2. Изменяется список оцениваемых действий при работе с антивирусом.

3. В связи с большим количеством критики для корпоративного теста предлагается субъективную удовлетворенность экспертов при работе с антивирусом оценивать, но не используется для расчета итогового значения. Полученные результаты по данному показателю отразить в отчете все равно.

4. Изменить веса критериев на следующие: скорость выполнения действий – 0.3, устойчивость к ошибкам – 0.3, скорость обучения – 0.2, техническая эстетика – 0.2.

Для анализа нужно выбрать не менее 10 действий, которые значимы для работы администратора. При этом нужно, чтобы эти действия можно было бы выполнять во всех антивирусах. Мы проанализировали похожие исследований лаборатории Tolly (tolly.com) и Cascadia Lab и сформировали предварительный список действий. Хотим услышать Ваши замечания/предложения:

1. Развертка антивируса на защищаемых станциях через консоль (на 1 или 5 ПК).

2. Создание политики для клиента.

3. Создание задачи обновления.

4. Создание задачи для сканирования по расписанию.

5. Создание политики для реагирования при обнаружении новой угрозы. Например, правила по изоляции сегмента сети, запуск сканирования.

6. Настройка фаервола. Например, включение определенных настроек и закрытие определенных портов.

7. Получение информации о файле, помещенном в карантин ( как вариант – получить сам файл).

8. Генерация централизованного отчета о работе АВ за N дней. Например, статистика по инцидентам.

9. Настройка политики управления устройствами.

10. Инвентаризация программного обеспечения на клиентах.

11. Поиск в справке конкретной информации.

12. Создание отчетов о состоянии всех защищенных машинах по требованию (автоматически\по расписанию).

И последнее. В качестве участников мы зарезервировали четыре места для продуктов, которые наиболее представлены на российском рынке – Kaspersky, Eset, Dr.Web, Symantec. Еще два места свободно (всего будет 6 продуктов в тесте). Кандидаты такие:

- Trend Micro

- McAfee

- AVG

Нужно выбрать 2 из 3. Голосуем и высказываемся по этому поводу.

Итого к три вопроса к сообществу:

1. Предлагаемые изменения в методологии тестирования. Поддерживаете ли указанные нами изменения? Хотите ли внести свои предложения?

2. Какие действия при работе с антивирусами стоит использовать в тесте?

3. Какие продукты должны учувствовать в тестировании?

P.S. Нужны конструктивные предложения.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Trend Micro - протух и завонял, ибо невидно не слышно. Берите авг и макафее ;)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Никого не нужно, тест уныл и бесполезен и неадекватен более чем полностью.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Соглашусь. Я думаю, вендоры не готовы к такому тесту.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Соглашусь. Я думаю, вендоры не готовы к такому тесту.

А чем определяется их готовность в данном случае? И почему они к тестам Tolly или Cascadia готовы, а к нашему тесту нет ...

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Вопрос следующий.

Эргономичность для корпоративных администраторов может затеряться только после того как администратор интерфейс изучил. Такие вещи как очевидность в корпоративных решениях уже не катят.

Можно посчитать количество кликов для того чтобы сделать что-то, конечно.

"

скорость выполнения действий – 0.3, устойчивость к ошибкам – 0.3, скорость обучения – 0.2, техническая эстетика – 0.2."

Скорость выполнения в каком смысле? Это будет субъективная оценка?

Устойчивость к ошибкам как будет замеряться?

Скорость обучения - нерелевантна

Техническая эстетика - субъективно. Некоторым вон и Windows 8 нравится.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

есть вообще то стандарты ... ISO 9241-10-98, ISO 9241-14-1997, ISO/IEC 11581-(1999-2000) на основе их можно было бы тестировать эргономичность

ну и учесть и принять во внимание основные принципы создания пользовательского интерфейса

+ госты ГОСТ Р ИСО/МЭК 12119-2000, ГОСТ Р ИСО МЭК 9126-93

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
А чем определяется их готовность в данном случае? И почему они к тестам Tolly или Cascadia готовы, а к нашему тесту нет ...

У меня впечатление такое субъективное сложилось - Интерфейс корпоративных антивирусов еще недостаточно проработан.

Многие операции сделаны крайне странно и трудоемко. Это касается и известных вендоров. Поэтому такой тест даст весьма спорные результаты во всех отношениях.

Вот пример http://www.sophos.com/en-us/medialibrary/P...0a9&dl=true (утащено отсюда http://www.sophos.com/en-us/security-news-...ise-review.aspx )

В данном тесте большой акцент сделан на количестве шагов и времени выполнения операций. Пожалуй, проверяемые операции кажутся наиболее востребованными. Тогда отчего же такой разброс у продуктов? Причем, в зависимости от операции - с совершенно разный разброс. Складывается впечатление, что вендоры не четко понимают, что нужно пользователю впервую очередь, чтобы сделать самые востребованные функции проще в использовании. И это лишь касается характеристик, которые вроде легко измерить. А как измерить понимание и толкование интерфейса?

Однако, если объективный провал подтолкнет к улучшениям в продуктах. Тогда я за.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Я отключал вообще взаимодействие пользователя с интерфейсом. Бухов не нужно было пугать и о чем-то им сообщать. То есть никто даже не видел, как выглядит АВ.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Как админ безопасности с многолетним стажем могу сказать, что такой тест не выйдет ... дело в том, что:

1. Админ (если он в своем уме) никогда не делает "на скорость" такие вещи, как политики антивируса. Более того, политики обычно делаются один раз, и потом как максимум немного уточняются (у меня они годами не меняются). Как следствие, показатель "скорость" вообще не критичен и не важен. Далее берем устойчивость к ошибкам - это как ? Например, я указал периодичность обновления раз в месяц - это ошибка или нет ?

2. Работа с корпоративным антивирусом требует подготовки и изучения продукта, создания тестовых политик и задач ... следовательно, как оценить "обучение" или поиск чего-то в справке (админ должен не F1 жать по каждому поводу, а изучить документацию, прежде чем что-то делать).

3. Cкорость обучения крайне субъективна: что лучше, сложный и требующий обучения функционал (но в итоге дающий большую гибкость и кучу возможностей), или красивый интерфейс с тремя кнопками, который можно изучить за минуту, но не получить в итоге больших возможностей и гибкости ?? Аналогично с созданием отчета - я могу потратить кучу времени (как на настройку отчета, так и на обучение), но получить тот отчет, что мне нужен. Или тремя кликами получить отчет, который не нужен :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Я отключал вообще взаимодействие пользователя с интерфейсом. Бухов не нужно было пугать и о чем-то им сообщать. То есть никто даже не видел, как выглядит АВ.

В данном тесте под пользователем понимается - администратор сети.

Бухгалтерам по идее и знать не надо, что у них антивирус развернут. Так же как не надо знать о мощности автоматов защиты в распределительном щитке на этаже.

  • Upvote 5

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
2. Работа с корпоративным антивирусом требует подготовки и изучения продукта, создания тестовых политик и задач ... следовательно, как оценить "обучение" или поиск чего-то в справке (админ должен не F1 жать по каждому поводу, а изучить документацию, прежде чем что-то делать).

Это смотря из какой категории пользователь. Если из организации, где есть штатные специалисты и работа организована - то конечно да. А если из малого бизнеса, где администрированием занимаются случайные люди. Документация вряд ли поможет - они ее не читают. Не зря же Windows доминирует в корпоративном секторе, вытеснив более совершенные, но сложные системы.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Я отключал вообще взаимодействие пользователя с интерфейсом. Бухов не нужно было пугать и о чем-то им сообщать. То есть никто даже не видел, как выглядит АВ.

Дима, ты о чем вообще? Речь об консолях управления корпоративной антивирусной защитой идет. Клиенты никто тестировать не собирается, это бессмысленно.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Это смотря из какой категории пользователь. Если из организации, где есть штатные специалисты и работа организована - то конечно да. А если из малого бизнеса, где администрированием занимаются случайные люди. Документация вряд ли поможет - они ее не читают. Не зря же Windows доминирует в корпоративном секторе, вытеснив более совершенные, но сложные системы.

Тогда смысл теста получается "насколько удобен корпоративный продукт для случайного человека, конторый администрировать не умеет и не читает инструкции" ? :) В этом то и состояло мое изначальное сомнение в необходимости теста и тех 10 позициях ...

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Тогда смысл теста получается "насколько удобен корпоративный продукт для случайного человека, конторый администрировать не умеет и не читает инструкции" ? В этом то и состояло мое изначальное сомнение в необходимости теста и тех 10 позициях ...

Я для себя вижу смысл теста немного по-другому. Я как администратор системы понимаю, что я в любом случае прочитаю документацию, настрою политики и задачи, я профессионал и это лишь вопрос временных затрат. Но я хочу понимать, с каким продуктам мне придется хлебнуть по полной и убить сутки на простейшие операции, а с каким я все прекрасно настрою за пару часов без лишнего убийства нервных клеток и сяду делать цепочки из скрепок :)

В качестве примера. Наш сайт на Drupal, я эту систему знаю достаточно хорошо, но она многими вещами не перестает меня бесить. Чувство что ты работает с системной которая тебя регулярно бесит достаточно неприятное. Это как ездить на неудобной машине или сидеть на неудобным столом.

Тогда смысл теста получается "насколько удобен корпоративный продукт для случайного человека, конторый администрировать не умеет и не читает инструкции" ? В этом то и состояло мое изначальное сомнение в необходимости теста и тех 10 позициях ...

Я для себя вижу смысл теста немного по-другому. Я как администратор системы понимаю, что я в любом случае прочитаю документацию, настрою политики и задачи, я профессионал и это лишь вопрос временных затрат. Но я хочу понимать, с каким продуктам мне придется хлебнуть по полной и убить сутки на простейшие операции, а с каким я все прекрасно настрою за пару часов без лишнего убийства нервных клеток и сяду делать цепочки из скрепок :)

В качестве примера. Наш сайт на Drupal, я эту систему знаю достаточно хорошо, но она многими вещами не перестает меня бесить. Чувство что ты работает с системной которая тебя регулярно бесит достаточно неприятное. Это как ездить на неудобной машине или сидеть на неудобным столом.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Если возьмётесь за AVG, то что выберите, AVG CloudCare или AVG Internet Security Business Edition? В случае с последним я бы не спешил :) его ещё не перевели на 2012 версию, но уже вот вот... хотя конечно и сроки подбивать под кого то одного - та ещё бяка :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Это смотря из какой категории пользователь. Если из организации, где есть штатные специалисты и работа организована - то конечно да. А если из малого бизнеса, где администрированием занимаются случайные люди. Документация вряд ли поможет - они ее не читают. Не зря же Windows доминирует в корпоративном секторе, вытеснив более совершенные, но сложные системы.

Намекаю, собираются тестировать мордочку, а не отделять козлищ от ангцев ой... Одминов от Админов

А вообще полностью поддерживаю возражения Олега

И вообще мое повседневное общение с управляющим центром обычно ограничивается чтением отчетов пришедших по факту всяких, подозрительных событий

чаще всего дальнейшие действия ограничиваются вправлением назад вывихнутой от зевания челюсти :D

Вот это эргономика нормальная ;)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

А может лучше сделать тест юзабилити DLP-систем? Вот там как раз очень много разных кейсов, плюс подразумевается, что офицер безопасности пользуется им ежедневно.

Соглашусь с мнениями выше, тестировать продукты, где единственная роль - администратор бессмысленно, победит консоль, а вот продукты где есть неадминские роли совсем другое дело.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Как админ безопасности с многолетним стажем могу сказать, что такой тест не выйдет ... дело в том, что:

1. Админ (если он в своем уме) никогда не делает "на скорость" такие вещи, как политики антивируса. Более того, политики обычно делаются один раз, и потом как максимум немного уточняются (у меня они годами не меняются). Как следствие, показатель "скорость" вообще не критичен и не важен. Далее берем устойчивость к ошибкам - это как ? Например, я указал периодичность обновления раз в месяц - это ошибка или нет ?

2. Работа с корпоративным антивирусом требует подготовки и изучения продукта, создания тестовых политик и задач ... следовательно, как оценить "обучение" или поиск чего-то в справке (админ должен не F1 жать по каждому поводу, а изучить документацию, прежде чем что-то делать).

3. Cкорость обучения крайне субъективна: что лучше, сложный и требующий обучения функционал (но в итоге дающий большую гибкость и кучу возможностей), или красивый интерфейс с тремя кнопками, который можно изучить за минуту, но не получить в итоге больших возможностей и гибкости ?? Аналогично с созданием отчета - я могу потратить кучу времени (как на настройку отчета, так и на обучение), но получить тот отчет, что мне нужен. Или тремя кликами получить отчет, который не нужен :)

Спасибо за комментарий.

1. Скорость это обратная величина времени выполнения. Данным критерием показывается, сколько времени нужно на выполнения пользователем каких-либо действий. Например, действие 1 продукте А выполняется за 10 секунд, а в продукте В за 140 секунд. Следовательно в продукте А работать будет удобнее.

2-3. Обучение оценивается косвенно - по полноте справки и документации, наличии средств помощи и обучения в пользовательском интерфейсе, наличию дополнительных средств обучения и непротиворечивости информационной модели ПО. Экспериментально изучать время изучения на конкретных пользователях это достаточно противоречивая и сложная задача, естественно.

Тут интересно именно насколько продукт "помогает" администратору в понимании своего устройства.

есть вообще то стандарты ... ISO 9241-10-98, ISO 9241-14-1997, ISO/IEC 11581-(1999-2000) на основе их можно было бы тестировать эргономичность

ну и учесть и принять во внимание основные принципы создания пользовательского интерфейса

+ госты ГОСТ Р ИСО/МЭК 12119-2000, ГОСТ Р ИСО МЭК 9126-93

Да, техническую эстетику и предполагается измерять на соответствие требованиям ряда ГОСТов по эргономике. В предыдущей методологии, в списке литературы, часть ГОСТов была приведена: http://www.anti-malware.ru/node/9570

Вопрос следующий.

Эргономичность для корпоративных администраторов может затеряться только после того как администратор интерфейс изучил. Такие вещи как очевидность в корпоративных решениях уже не катят.

Можно посчитать количество кликов для того чтобы сделать что-то, конечно.

"

скорость выполнения действий – 0.3, устойчивость к ошибкам – 0.3, скорость обучения – 0.2, техническая эстетика – 0.2."

Скорость выполнения в каком смысле? Это будет субъективная оценка?

Устойчивость к ошибкам как будет замеряться?

Скорость обучения - нерелевантна

Техническая эстетика - субъективно. Некоторым вон и Windows 8 нравится.

Ну да, в этом тесте как раз и предполагается использовать только экспертную оценку, исключив пользователей.

Подробно про критерии и способы их оценки написано в методологии к предыдущему аналогичному тесту: http://www.anti-malware.ru/node/9570

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
1. Скорость это обратная величина времени выполнения. Данным критерием показывается, сколько времени нужно на выполнения пользователем каких-либо действий. Например, действие 1 продукте А выполняется за 10 секунд, а в продукте В за 140 секунд. Следовательно в продукте А работать будет удобнее.

А если так для человека который недавно взялся за этот продукты А и Б

Действие 1 в продукте А - 30 сек, в Б - 45 сек

Действие 2 в продукте Б - 30 сек, в Б - 40 сек

Вроде как А получше, так?

А для того кто давно знаком Б,

Действие 1 в продукте А - 30 сек, в Б - 10 сек

Действие 2 в продукте А - 30 сек, в Б - 3 сек.

2-3. Обучение оценивается косвенно - по полноте справки и документации,

Тут интересно именно насколько продукт "помогает" администратору в понимании своего устройства.

Хм... проверить все возможности и насколько они будут полно описаны

И понимание что этот флажок делает во включенном и чот во выключенном

И в каком случае нажимать эту БОЛЬШУЮ КРАСНУЮ кнопку

что-то мне кажется что время на тестирование будет гораздо больше чем планируется

ЗЫ. а если еще учитывать возможность сделать развесистое дерево с политиками и оценитьчто же получим в результате если применится вот ЭТА цепочка политик, и почему она для данного конкретного случая лучше чем соседняя

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
А если так для человека который недавно взялся за этот продукты А и Б

Действие 1 в продукте А - 30 сек, в Б - 45 сек

Действие 2 в продукте Б - 30 сек, в Б - 40 сек

Вроде как А получше, так?

А для того кто давно знаком Б,

Действие 1 в продукте А - 30 сек, в Б - 10 сек

Действие 2 в продукте А - 30 сек, в Б - 3 сек.

Хм... проверить все возможности и насколько они будут полно описаны

И понимание что этот флажок делает во включенном и чот во выключенном

И в каком случае нажимать эту БОЛЬШУЮ КРАСНУЮ кнопку

что-то мне кажется что время на тестирование будет гораздо больше чем планируется

ЗЫ. а если еще учитывать возможность сделать развесистое дерево с политиками и оценитьчто же получим в результате если применится вот ЭТА цепочка политик, и почему она для данного конкретного случая лучше чем соседняя

Есть методы оценки времени выполнения действий. Аналитически вычисляется время выполнения цепочки операций. В этом случае знание продуктов не учитывается. Это некоторое упрощение, однако оно позволяет сравнивать несколько продуктов между собой.

Тест действительно занимает много времени, требует учета большого количество параметров. А так как используется экспертная оценка, то все оценки делается группой экспертов. Что вместе с учетом большого количества критериев и параметров и позволяет уменьшить субъективность.

Во многом по этому в тесте участвуют 5-6 продуктов, а не 15-20 как во многих других тестах.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Kartavenko M.V. Я не спорю, что можно получить некоторые показатели по эргономике корпоративных продуктов

только мне кажется, что в оценке покупателями что же именно выбрать данный показатель не столь уж важен

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Trend Micro - протух и завонял, ибо невидно не слышно. Берите авг и макафее ;)

Это в корпоративном секторе он "протух и завонял"?

А может лучше сделать тест юзабилити DLP-систем? Вот там как раз очень много разных кейсов, плюс подразумевается, что офицер безопасности пользуется им ежедневно.

А что это за должность - "офицер безопасности"? Речь не об офицерах ФСБ? :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
А что это за должность - "офицер безопасности"? Речь не об офицерах ФСБ? :)

обычная должность, на многих предприятиях есть... :) у нас есть и офицер по безопасности и администратор по ИБ

  • Upvote 5

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Создайте учетную запись или войдите, чтобы комментировать

Вы должны быть пользователем, чтобы оставить комментарий

Создать учетную запись

Зарегистрируйте новую учётную запись в нашем сообществе. Это очень просто!


Регистрация нового пользователя

Войти

Уже есть аккаунт? Войти в систему.


Войти с помощью Facebook Войти Войти с помощью Twitter
Anti-Malware.ru Вконтакте   Anti-Malware.ru в Facebook   Anti-Malware.ru в Twitter   Anti-Malware.ru в LinkedIn   RSS