ЛК запатентовала интеллектуальный метод исключения ложноположительных срабатываний

ЛК запатентовала интеллектуальный метод исключения ложноположительных срабатываний

«Лаборатория Касперского» получила патент на технологию эффективного обнаружения ложноположительных срабатываний при эвристическом анализе групп похожих вредоносных файлов.

Таким образом, используя возможности машинного обучения, компания смогла автоматизировать большой объем рутинных операций по выявлению зловредов, а патент, выданный соответствующим ведомством США, подтверждает новизну и исключительность применяемого метода.

Правила обнаружения вредоносного ПО, которые автоматически создаются при разборе ограниченного количества недавно выявленных вредоносных файлов, описывают группу опасных объектов как набор различных характеристик. Среди этих характеристик присутствует, в частности, последовательность системных событий и вызовов системных функций, которые одинаковы как для вредоносных, так и для чистых файлов.   

Запатентованная технология позволяет продуктам «Лаборатории Касперского» проверять автоматически созданные правила детектирования на предмет того, корректно ли они описывают группы вредоносных файлов и не затрагивают ли при этом легитимные объекты (а при таком подходе вероятность получения ложноположительных срабатываний существенно снижается). Проверка осуществляется следующим образом: в инфраструктуре «Лаборатории Касперского» все файлы, подходящие под предложенное описание, сравниваются с набором известных чистых (включенных в белые списки) файлов и более широкой подборкой известных вредоносных объектов. Если никаких сходств в процессе сравнения не обнаруживается, правило детектирования считается корректным и применяется для защиты пользователей от киберугроз.    

«Поскольку количество образцов вредоносного ПО, которое «Лаборатория Касперского» обрабатывает ежедневно, измеряется сотнями тысяч, часть работы по обнаружению вирусов, разумеется, автоматизирована. К примеру, без участия человека решается задача нахождения схожих характеристик между различными вредоносными файлами, что помогает нам создать правило эвристического детектирования, которое описывает сразу группу зловредов, а не отдельные объекты. Запатентованная технология дополняет коллекцию инструментов машинного обучения, которая уже активно используется в наших продуктах, так что у специалистов компании остается больше времени и возможностей сконцентрироваться на обнаружении более сложных угроз», – отметил Тимур Биячуев, руководитель лаборатории антивирусных исследований «Лаборатории Касперского». 

Технология уже применяется в решениях для защиты домашних и корпоративных пользователей, в частности в Kaspersky Internet Security для всех устройств, Kaspersky Total Security для всех устройств и Kaspersky Security для бизнеса.

Подпишитесь на новости

В России сформулировали главную проблему ИИ — у него нет страха

Искусственному интеллекту не хватает страха перед ошибкой. Такую мысль высказал заместитель главы Минцифры России Александр Шойтов на конференции BIS Summit, посвящённой информационной безопасности бизнеса и ИТ.

«В ИИ нужно встроить систему страха, чтобы он боялся совершить ошибку, как человек», — заявил Шойтов в ходе дискуссии.

Речь, конечно, не о дрожащей нейросети, которая перед каждым ответом вспоминает ипотеку и разговор с начальником. Под страхом можно понимать встроенный механизм сомнения: способность модели оценивать последствия своих действий, признавать нехватку данных и останавливаться, если цена ошибки слишком высока.

Сейчас генеративный ИИ способен уверенно выдавать неверные ответы, придумывать факты и выполнять опасные команды без человеческого ощущения риска.

Для обычного чат-бота это заканчивается галлюцинацией, а для ИИ-агента с доступом к корпоративным системам — удалёнными файлами, утечкой данных или нарушением работы инфраструктуры.

На BIS Summit прозвучала и ещё более амбициозная идея — встроить в ИИ-модели совесть. Её озвучил Николай Лишин, заместитель руководителя ФМБА России. Если страх должен удерживать систему от ошибки, то совесть, по такой логике, должна помогать оценивать допустимость самого действия.

Получается своеобразный технический портрет идеального ИИ: достаточно умный, чтобы решить задачу, достаточно напуганный, чтобы всё перепроверить, и достаточно совестливый, чтобы вовремя отказаться. Осталось только написать для этого техническое задание.

RSS: Новости на портале Anti-Malware.ru