ЛК запатентовала интеллектуальный метод исключения ложноположительных срабатываний

ЛК запатентовала интеллектуальный метод исключения ложноположительных срабатываний

«Лаборатория Касперского» получила патент на технологию эффективного обнаружения ложноположительных срабатываний при эвристическом анализе групп похожих вредоносных файлов.

Таким образом, используя возможности машинного обучения, компания смогла автоматизировать большой объем рутинных операций по выявлению зловредов, а патент, выданный соответствующим ведомством США, подтверждает новизну и исключительность применяемого метода.

Правила обнаружения вредоносного ПО, которые автоматически создаются при разборе ограниченного количества недавно выявленных вредоносных файлов, описывают группу опасных объектов как набор различных характеристик. Среди этих характеристик присутствует, в частности, последовательность системных событий и вызовов системных функций, которые одинаковы как для вредоносных, так и для чистых файлов.   

Запатентованная технология позволяет продуктам «Лаборатории Касперского» проверять автоматически созданные правила детектирования на предмет того, корректно ли они описывают группы вредоносных файлов и не затрагивают ли при этом легитимные объекты (а при таком подходе вероятность получения ложноположительных срабатываний существенно снижается). Проверка осуществляется следующим образом: в инфраструктуре «Лаборатории Касперского» все файлы, подходящие под предложенное описание, сравниваются с набором известных чистых (включенных в белые списки) файлов и более широкой подборкой известных вредоносных объектов. Если никаких сходств в процессе сравнения не обнаруживается, правило детектирования считается корректным и применяется для защиты пользователей от киберугроз.    

«Поскольку количество образцов вредоносного ПО, которое «Лаборатория Касперского» обрабатывает ежедневно, измеряется сотнями тысяч, часть работы по обнаружению вирусов, разумеется, автоматизирована. К примеру, без участия человека решается задача нахождения схожих характеристик между различными вредоносными файлами, что помогает нам создать правило эвристического детектирования, которое описывает сразу группу зловредов, а не отдельные объекты. Запатентованная технология дополняет коллекцию инструментов машинного обучения, которая уже активно используется в наших продуктах, так что у специалистов компании остается больше времени и возможностей сконцентрироваться на обнаружении более сложных угроз», – отметил Тимур Биячуев, руководитель лаборатории антивирусных исследований «Лаборатории Касперского». 

Технология уже применяется в решениях для защиты домашних и корпоративных пользователей, в частности в Kaspersky Internet Security для всех устройств, Kaspersky Total Security для всех устройств и Kaspersky Security для бизнеса.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В Reddit без спросу обкатали психологическое воздействие с помощью ИИ

Модераторы подфорума Change My View («Измени мое мнение», CMV) в Reddit направили жалобу в Цюрихский университет: группа исследователей тайно провела эксперимент с ИИ, в котором невольно приняло участие все сообщество.

ИИ-модель два месяца вбрасывала провокационные комментарии в ветку; ученые таким образом проверяли ее умение убеждать. По окончании эксперимента они соблаговолили поставить модераторов в известность и сознались в нарушении правил CMV (там запрещено использовать боты и ИИ).

Для публикации реплик исследователи создали ряд вымышленных персонажей — жертв насилия, консультантов-психологов, противников сектантства и протестных движений. Некоторые фейковые аккаунты админы Reddit выловили и забанили за нарушение пользовательского соглашения.

Сами исследователи, по их словам, комментарии не постили, только вручную проверяли каждую реплику ИИ на предмет потенциально вредного контента. Для персонализации реплик другая ИИ-модель собирала в Reddit пользовательские данные, такие как пол, возраст, этническая принадлежность, местоположение, политические взгляды.

Согласия «подопытных кроликов» при этом никто не спрашивал — для чистоты эксперимента.

Получив разъяснительное письмо, модераторы CMV направили в университет официальную жалобу, предложив публично извиниться за неэтичное поведение исследователей и отказаться от публикации результатов эксперимента.

В ответ на претензии представитель вуза заявил, что научному руководителю ИИ-проекта объявлен выговор. Также будут приняты меры, чтобы подобного не повторилось, но отменять публикацию никто не собирается: результаты проделанной работы важны для науки, а вред от эксперимента минимален.

И претензии, и реакция учебного заведения были опубликованы в CMV. Пользователи до сих пор комментируют этот пост, высказывая свое возмущение.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru