Лаборатория Касперского патентует технологию обработки ложных срабатываний

Лаборатория Касперского патентует технологию обработки ложных срабатываний

Система и технология корректирования антивирусных записей «Лаборатории Касперского» получила патент № 2487405 в реестре «Роспатента». Запатентованный механизм позволяет существенно повысить удобство использования защитного решения за счет оперативного устранения ошибок, связанных с ложным срабатыванием защиты.

На практике возникают случаи, когда сигнатура, созданная для обнаружения вредоносной программы, сигнализирует при проверке безвредных файлов. Ложные срабатывания происходят из-за того, что некоторые вредоносные объекты по поведению и структуре похожи на легитимные приложения. Проблема в том, что ложное срабатывание может создать трудности пользователю в его работе, а исправление сигнатуры занимает ощутимый промежуток времени.

Это общая проблема всех игроков рынка защитного программного обеспечения, и пока не существует надежного механизма, позволяющего полностью исключить возможность возникновения таких инцидентов без ущерба безопасности. Однако специалисты «Лаборатории Касперского» нашли способ минимизировать их негативное воздействие.

Запатентованная технология позволяет сокращать промежуток времени между возникновением ошибки и ее исправлением с нескольких часов до считанных минут. Решение позволяет на основании ряда проверок сразу после обнаружения факта ложного срабатывания автоматически исправить антивирусную запись, а также передать информацию о верном статусе сигнатуры на все ПК с такой же ошибкой.

«То, что проблему ложных срабатываний пока невозможно решить без снижения безопасности пользователей, не означает, что с ней вообще ничего нельзя сделать. Именно это мы доказали своей новой технологией. Запатентованный нами механизм позволяет максимально оперативно исправлять возможные ошибки детектирования, не доставляя пользователю никаких неудобств и не снижая при этом уровень защиты», – прокомментировал Олег Ишанов, руководитель лаборатории антивирусных исследований, один из группы разработчиков технологии.

«Лаборатория Касперского» продолжает интенсивно увеличивать количество патентов передовых технологий в области защиты от киберугроз. По состоянию на начало августа 2013 года, в портфолио «Лаборатории Касперского» содержится свыше 160 патентов, выданных в США, России, Китае и странах ЕС. Еще более 210 патентных заявок находятся на рассмотрении патентных ведомств этих государств.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

Исследователи из компании Tenable сообщили о серии уязвимостей, затрагивающих модели GPT-4o и GPT-5, которые лежат в основе ChatGPT. Эти дыры позволяют злоумышленникам похищать личные данные пользователей из памяти и истории переписки бота — без ведома самих пользователей.

Всего специалисты выявили семь векторов атак, часть из которых OpenAI уже устранила. Главная проблема — так называемые «непрямые инъекции промпта» (indirect prompt injection).

С их помощью можно обмануть искусственный интеллект и заставить его выполнять вредоносные инструкции, даже если пользователь ничего не подозревает.

Среди найденных методов — внедрение команд через вредоносные сайты, запросы к ChatGPT с поддельными ссылками или командами, маскированными под разрешённые домены (например, через bing.com), а также скрытие вредоносных инструкций в коде веб-страниц. В одном из сценариев атаки злоумышленник мог «отравить» память ChatGPT, добавив туда свои команды через сайт, который пользователь попросил бота кратко пересказать.

Подобные инъекции не требуют от пользователя кликов или загрузки файлов — достаточно обычного запроса вроде «расскажи, что написано на этом сайте». Если страница уже проиндексирована поисковиком, ИИ мог выполнить вредоносный код автоматически.

 

Tenable отмечает, что такие атаки — проблема не только OpenAI. За последние месяцы исследователи обнаруживали похожие уязвимости в Claude, Copilot, и других ИИ-инструментах. Некоторые позволяли похищать данные, обходить фильтры безопасности или подменять ответы модели.

По словам экспертов, полностью устранить угрозу инъекций промпта в ближайшее время вряд ли удастся. Они рекомендуют разработчикам ИИ-сервисов тщательнее проверять механизмы безопасности и фильтры URL, чтобы свести риски к минимуму.

Не так давно мы рассуждали на тему «можно ли доверять GenAI». Рассматривали галлюцинации и контроль достоверности ИИ.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru