Михал Пехоучек: Если о вас много информации в интернете, вас легко обмануть с помощью искусственного интеллекта

Михал Пехоучек: Если о вас много информации в интернете, вас легко обмануть с помощью искусственного интеллекта

Михал Пехоучек (Michal Pechoucek)

Михал Пехоучек занимает должность технического директора Avast с сентября 2019 года. Он руководит развитием новых технологий и исследовательским отделом, поддерживая команды, отвечающие за инновации, лабораторию анализа угроз Avast и обработку больших данных. Кроме того, в сферу его ответственности входят научные исследования в области искусственного интеллекта, машинного обучения и кибербезопасности.

Прежде чем присоединиться к команде Avast, Михал двадцать лет занимал должность профессора на электротехническом факультете Чешского технического университета (ЧТУ) в Праге. В то же время он руководил отделением компьютерных наук, а в 2001 году основал Центр искусственного интеллекта. Кроме того, он является сооснователем научно-исследовательской программы Open Informatics, охватывающей широкий спектр различных дисциплин и сочетающей разные подходы и области информатики, которая продолжает работу по сей день.

Михал написал более 400 статей, получивших широкое признание, а также внес свой вклад в создание множества инновационных ИИ-приложений для исследований в области компьютерных наук. До прихода в Avast Михал был одним из создателей кафедры кибербезопасности Avast в ЧТУ. В 2019 году он помог создать финансируемую Avast совместную лабораторию ЧТУ — Avast для работы в области ИИ и кибербезопасности. Михал продолжает читать лекции в ЧТУ и возглавляет Центр искусственного интеллекта.

Помимо академической карьеры Михал был соучредителем нескольких стартапов, включая компанию Cognitive Security (в 2013 году приобретенную CISCO), занимающуюся кибербезопасностью, AgentFly Technologies, специализирующуюся на управлении автономным воздушным трафиком, и Blindspot Solutions, разрабатывавшую ИИ для промышленных приложений (в 2017 году приобретенную Adastra Group). Он руководил центром исследований и разработки ИИ и компьютерной безопасности в CISCO Systems, а также работал стратегом в техническом отделе CISCO Security. Кроме того, он является венчурным партнером Evolution Equity Partners, фирмы с венчурным капиталом, специализирующейся на кибербезопасности. Михал стал одним из основателей инициативы prg.ai, целью которой является превращение Праги в мировой центр искусственного интеллекта.

Михал окончил Эдинбургский университет и получил степень доктора философии в области искусственного интеллекта в ЧТУ в Праге. Кроме того, он работал в Университете Южной Калифорнии, Эдинбургском университете, Университете штата Нью-Йорк в Бингемтоне и Университете Калгари.

Михал женат, у него трое детей. Он любит походы в горы и марафоны.

...

Михал Пехоучек, СTO компании Avast, рассказал Anti-Malware.ru о последних технологических тенденциях в разработке средств информационной безопасности, в том числе о защите интернета вещей и о применении искусственного интеллекта.

Расскажите, каковы сегодня ключевые технологические вызовы для антивирусной индустрии в целом и таких компаний, как Avast. Какие вызовы вы считаете главными?

М. П.: Прежде всего меняются платформы — количество персональных компьютеров стабильно уменьшается, количество мобильных устройств практически остается постоянным, а вот количество IoT-устройств растет по экспоненте. Это меняет поверхности атак и вообще весь ландшафт киберугроз. Киберпреступники меняют свои мишени. И это — огромный вызов, потому что защита IoT-устройств отличается от традиционной. Вы не можете применить стандартный подход, эффективный в случае конечных точек. Всё это вызывает сдвиг парадигмы для антивирусных компаний.

Второй большой тренд — это атаки, основанные на применении искусственного интеллекта. Искусственный интеллект снижает стоимость комплексных атак. Такие атаки более целевые, более точные, но более затратные, и могут быть не всегда прибыльными, если цель — обычные интернет-пользователи. Снижение затрат благодаря искусственному интеллекту и потенциально высокая масштабируемость могут сделать их эффективными даже при большом количестве пользователей и причинить больший ущерб. Компании информационной безопасности знают об этом вызове и инвестируют средства и усилия в решения, основанные на искусственном интеллекте. В том числе Avast — это тоже ИИ-компания, мы используем классическое машинное обучение и продвинутые методы ИИ, чтобы отражать атаки нового типа.

Если говорить о безопасности IoT, какой подход вы считаете лучшим для защиты подобных устройств и всей экосферы интернета вещей?

М. П.: Мы считаем лучшей комбинацию программного и аппаратного подхода. Например, создание устройства, которое будет контролировать другие умные устройства в доме и будет единой точкой защиты для всего умного дома. Этот подход мы воплотили в устройстве Avast Omni, которое вышло на рынок в этом году. Это — не только безопасность как таковая, но и другие полезные функции, например родительский контроль. Мы считаем это направление стратегическим, потому что интернет-безопасность связана с надлежащим использованием интернета и защитой приватной информации.

А как вы относитесь к концепции использования нано-агентов безопасности для различных устройств?

М. П.: Мы думаем, что это — тяжеловесный подход. Мы предпочитаем другие инструменты — например, поведенческий анализ происходящего в сети или различные инструменты машинного обучения для поиска аномалий и классификации событий. Мы применяем эту технологию из коробки и из облака.

Насколько критично для антивирусов применение машинного обучения? 

М. П.: Это очень важно. Потому что главное в кибербезопасности — это проблема обработки данных. Мы видим постоянное усложнение процессов, и вручную справляться с ними невозможно. Например, анализ вредоносных программ. Сейчас его нельзя представить без машинного обучения. Раньше без него обходились, и всю работу проделывали аналитики, потому что атак было меньше и сложность их была ниже.

А что касается машинного обучения в отношении атак нулевого дня и целевых атак: это работающая технология или пустой маркетинговый шум?

М. П.: Я ученый, и я изучаю искусственный интеллект всю свою жизнь, поэтому я вам точно могу сказать, что это — не пустой маркетинг. Он существует. В некоторых применениях это — статистический анализ, который нужен, чтобы анализировать рабочую нагрузку, чтобы классифицировать угрозы и так далее. Если смотреть шире — это создание новой функциональности, которая возникает потому, что системы самосовершенствуются под руководством машинного обучения. Иногда нужно применить глубинное обучение для создания новой функциональности. 

Можно ли использовать машинное обучение для предсказания нормального поведения пользователей — например, для предотвращения атак с помощью социальной инженерии?

М. П.: Есть целое сильное направление — UEBA, которое как раз работает на создание модулей нормального поведения. Оно интересно тем, что позволяет посмотреть на проблему с другой стороны. Через обучение системы тому, что является нормальным поведением, защитить ее становится гораздо проще. Но в то же время вы получаете большое количество уведомлений. И это — тоже большая проблема. Многие компании используют UEBA для создания белых списков.

По последним данным у антивируса Avast почти полмиллиарда активных пользователей. У вас достаточно данных для статистических моделей?

М. П.: Да, конечно, Avast может создавать высокоточные модели на основе данных о поведении пользователей. Такие данные очень важны для вендоров, развивающих решения на базе искусственного интеллекта. 

Я знаю, что Avast наладила сотрудничество с Чешским техническим университетом. В чём смысл этого сотрудничества?

М. П.: Это — совместная лаборатория. В Чешском техническом университете у нас есть центр изучения искусственного интеллекта (AIC). Сейчас у нас — партнерство с этим центром. Совместная лаборатория управляется Avast в России. Мы вместе работаем над большим количеством проблем — в частности, над безопасностью интернета вещей, а также в области консультативного машинного обучения, в области создания и тренировки модулей. 

С точки зрения науки, насколько далек сейчас искусственный интеллект от состояния, когда он будет самостоятельно отвечать на угрозы кибербезопасности?

М. П.: Технологически это применяется уже сейчас в бекенде антивирусных компаний. Сейчас мы наблюдаем большой прогресс искусственного интеллекта в играх — в покере, шахматах, го. В ближайшие пару лет мы ждем значительного прогресса на рынке информационной безопасности. Мы работаем с несколькими другими компаниями, чтобы исследовать эти возможности, и для этого проводим мероприятие CyberSec & AI Prague, где собираем ведущих исследователей в этой области. 

Можно ли назвать машинное обучение «серебряной пулей» для кибербезопасности? Многие эксперты говорят, что это просто еще один виток цикла борьбы между «плохими» и «хорошими парнями».

М. П.: Нет, конечно, это — не «серебряная пуля». Это — действительно развитие цикла борьбы между нападающими и защитниками. С машинным обучением мы способны быстрее и проще решать многие сложные задачи. Это — постоянный процесс развития, который не останавливается.

А вы не думаете, что злоумышленники будут использовать практически те же технологии?

М. П.: Конечно, они могут использовать сложные технологии, чтобы скрыться от обзора и масштабировать атаки. Но мы развиваемся иначе, проводим исследования, чтобы защищать, а не атаковать. При этом уровень сложности примерно одинаков, несмотря на разные задачи, и у той, и другой стороны есть свои эксперты и технологии, поэтому битва будет продолжаться. 

Что вы думаете о так называемом человеческом факторе, который помогает злоумышленникам применять социальный инжиниринг?

М. П.: Эта проблема связана с приватностью в интернете. Наша позиция такова: мы хотим поддерживать приватность в интернете. И мы хотим развивать технологии, которые защищают частную информацию, чтобы атаки с использованием социального инжиниринга обходились злоумышленникам намного дороже. Если о вас много информации в интернете, вас можно легко обмануть с помощью искусственного интеллекта.

Приватность — это часть безопасности?

М. П.: Да, конечно. Есть три столпа, ключевых направления с точки зрения Avast: защита, производительность и приватные данные. Я как СTO планирую развивать все три этих направления. Приватность была последней добавлена в эту стратегию, и мы намерены посвящать ей много времени.

Спасибо за интервью. Желаем успехов!