ЛК запатентовала интеллектуальный метод исключения ложноположительных срабатываний

ЛК запатентовала интеллектуальный метод исключения ложноположительных срабатываний

«Лаборатория Касперского» получила патент на технологию эффективного обнаружения ложноположительных срабатываний при эвристическом анализе групп похожих вредоносных файлов.

Таким образом, используя возможности машинного обучения, компания смогла автоматизировать большой объем рутинных операций по выявлению зловредов, а патент, выданный соответствующим ведомством США, подтверждает новизну и исключительность применяемого метода.

Правила обнаружения вредоносного ПО, которые автоматически создаются при разборе ограниченного количества недавно выявленных вредоносных файлов, описывают группу опасных объектов как набор различных характеристик. Среди этих характеристик присутствует, в частности, последовательность системных событий и вызовов системных функций, которые одинаковы как для вредоносных, так и для чистых файлов.   

Запатентованная технология позволяет продуктам «Лаборатории Касперского» проверять автоматически созданные правила детектирования на предмет того, корректно ли они описывают группы вредоносных файлов и не затрагивают ли при этом легитимные объекты (а при таком подходе вероятность получения ложноположительных срабатываний существенно снижается). Проверка осуществляется следующим образом: в инфраструктуре «Лаборатории Касперского» все файлы, подходящие под предложенное описание, сравниваются с набором известных чистых (включенных в белые списки) файлов и более широкой подборкой известных вредоносных объектов. Если никаких сходств в процессе сравнения не обнаруживается, правило детектирования считается корректным и применяется для защиты пользователей от киберугроз.    

«Поскольку количество образцов вредоносного ПО, которое «Лаборатория Касперского» обрабатывает ежедневно, измеряется сотнями тысяч, часть работы по обнаружению вирусов, разумеется, автоматизирована. К примеру, без участия человека решается задача нахождения схожих характеристик между различными вредоносными файлами, что помогает нам создать правило эвристического детектирования, которое описывает сразу группу зловредов, а не отдельные объекты. Запатентованная технология дополняет коллекцию инструментов машинного обучения, которая уже активно используется в наших продуктах, так что у специалистов компании остается больше времени и возможностей сконцентрироваться на обнаружении более сложных угроз», – отметил Тимур Биячуев, руководитель лаборатории антивирусных исследований «Лаборатории Касперского». 

Технология уже применяется в решениях для защиты домашних и корпоративных пользователей, в частности в Kaspersky Internet Security для всех устройств, Kaspersky Total Security для всех устройств и Kaspersky Security для бизнеса.

Здесь был ИИ: журналистам предложили маркировать нейросетевые материалы

Союз журналистов России выступил за обязательную маркировку материалов, созданных с применением искусственного интеллекта. Причём редакциям предлагают не ограничиваться лаконичным «сделано с помощью ИИ», а подробно объяснять, что именно он делал с текстом.

Согласно рекомендациям СЖР, дисклеймер следует размещать в начале или конце публикации.

В нём нужно указывать конкретную роль технологии: нейросеть могла подготовить черновик, перевести материал, отредактировать его или выполнить другую задачу.

Отдельно предлагается сообщать, участвовал ли человек в проверке результата. Таким образом, читатель сможет понять не только происхождение текста, но и выяснить, посмотрел ли на него живой редактор перед публикацией.

При этом СЖР рекомендует не маркировать как сгенерированный аутентичный контент, если ИИ не участвовал непосредственно в его создании. Это должно предотвратить путаницу.

Инициатива пока оформлена как рекомендации для прессы. Не определены также единая формулировка дисклеймера, критерии значимого участия ИИ и ответственность редакций за отсутствие маркировки.

RSS: Новости на портале Anti-Malware.ru