ЛК запатентовала интеллектуальный метод исключения ложноположительных срабатываний

ЛК запатентовала интеллектуальный метод исключения ложноположительных срабатываний

«Лаборатория Касперского» получила патент на технологию эффективного обнаружения ложноположительных срабатываний при эвристическом анализе групп похожих вредоносных файлов.

Таким образом, используя возможности машинного обучения, компания смогла автоматизировать большой объем рутинных операций по выявлению зловредов, а патент, выданный соответствующим ведомством США, подтверждает новизну и исключительность применяемого метода.

Правила обнаружения вредоносного ПО, которые автоматически создаются при разборе ограниченного количества недавно выявленных вредоносных файлов, описывают группу опасных объектов как набор различных характеристик. Среди этих характеристик присутствует, в частности, последовательность системных событий и вызовов системных функций, которые одинаковы как для вредоносных, так и для чистых файлов.   

Запатентованная технология позволяет продуктам «Лаборатории Касперского» проверять автоматически созданные правила детектирования на предмет того, корректно ли они описывают группы вредоносных файлов и не затрагивают ли при этом легитимные объекты (а при таком подходе вероятность получения ложноположительных срабатываний существенно снижается). Проверка осуществляется следующим образом: в инфраструктуре «Лаборатории Касперского» все файлы, подходящие под предложенное описание, сравниваются с набором известных чистых (включенных в белые списки) файлов и более широкой подборкой известных вредоносных объектов. Если никаких сходств в процессе сравнения не обнаруживается, правило детектирования считается корректным и применяется для защиты пользователей от киберугроз.    

«Поскольку количество образцов вредоносного ПО, которое «Лаборатория Касперского» обрабатывает ежедневно, измеряется сотнями тысяч, часть работы по обнаружению вирусов, разумеется, автоматизирована. К примеру, без участия человека решается задача нахождения схожих характеристик между различными вредоносными файлами, что помогает нам создать правило эвристического детектирования, которое описывает сразу группу зловредов, а не отдельные объекты. Запатентованная технология дополняет коллекцию инструментов машинного обучения, которая уже активно используется в наших продуктах, так что у специалистов компании остается больше времени и возможностей сконцентрироваться на обнаружении более сложных угроз», – отметил Тимур Биячуев, руководитель лаборатории антивирусных исследований «Лаборатории Касперского». 

Технология уже применяется в решениях для защиты домашних и корпоративных пользователей, в частности в Kaspersky Internet Security для всех устройств, Kaspersky Total Security для всех устройств и Kaspersky Security для бизнеса.

Нейросети и ДНК: ИИ-лидеры просят закрыть лазейку для биооружия

В ИИ-индустрии произошло почти невероятное событие. Главы OpenAI, Anthropic, Google DeepMind и Microsoft AI выступили единым фронтом и попросили Конгресс США срочно ужесточить правила продажи синтетической ДНК и РНК.

3 июня Сэм Альтман, Дарио Амодеи, Демис Хассабис и Мустафа Сулейман подписали открытое письмо, в котором призвали обязать компании, занимающиеся синтезом генетического материала, проверять не только сами заказы, но и их заказчиков.

Причина проста: ИИ становится слишком хорошим помощником. Авторы письма опасаются, что современные языковые модели постепенно снижают порог входа в область биотехнологий.

Если раньше потенциальному злоумышленнику требовались серьёзные знания в биологии, то теперь часть информации может подсказать нейросеть: где искать нужные гены, как формулировать запросы и каким образом обходить существующие механизмы проверки.

Впрочем, паники в письме нет. Подписанты отдельно подчёркивают, что современные ИИ-модели пока не способны самостоятельно разработать полноценный патоген с нуля. Для этого всё ещё нужны профессиональные знания и практические навыки.

Но проблема, по их мнению, в другом: защитные барьеры постепенно размываются, а значит, лучше закрывать уязвимости заранее, чем ждать первого громкого инцидента.

Особенно тревожит экспертов рынок синтетической ДНК. Сегодня заказать нужную генетическую последовательность можно сравнительно быстро и недорого. А если ИИ поможет подобрать или замаскировать опасный заказ, существующие системы контроля могут не справиться.

В качестве примера авторы приводят исследование Microsoft, опубликованное в прошлом году. Тогда ИИ-системы для проектирования белков смогли сгенерировать потенциально опасные последовательности, которые прошли мимо фильтров поставщиков. Формально это были новые белки, но по структуре они напоминали уже известные опасные образцы.

Из этого подписанты делают вывод: проверять нужно не только клиентов биотехнологических компаний, но и сами ИИ-системы. Иными словами, фильтры безопасности придётся строить сразу на нескольких уровнях.

Любопытно, что главным событием здесь многие считают даже не содержание письма, а список подписантов. Когда Альтман и Амодеи оказываются под одним документом, значит, вопрос действительно считают серьёзным.

RSS: Новости на портале Anti-Malware.ru