С 2019 года Kaspersky получила 53 патента на изобретения в области ML

С 2019 года Kaspersky получила 53 патента на изобретения в области ML

С 2019 года Kaspersky получила 53 патента на изобретения в области ML

Антивирусная компания «Лаборатория Касперского» представила небольшой отчёт, касающийся деятельности в области машинного обучения. Оказалось, что с 2019 года компания получила 53 патента на изобретения в соответствующей области.

Большинство из этих патентов относятся к таким сферам, как детектирование вредоносных программ, защита критической инфраструктуры, антифишинговые технологии и решения для мониторинга и анализа событий безопасности (SIEM). Также эксперты компании предложили варианты использования таких технологий и в других областях — от маркетинга до систем противодействия гражданским беспилотникам.

В начале прошлого десятилетия создание базы данных ImageNet и успех суперкомпьютера Watson, который обыграл чемпионов американской телевикторины, спровоцировали всплеск интереса к машинному обучению.

«Лаборатория Касперского» подала свою первую патентную заявку на изобретение по этому направлению в 2017 году, с тех пор в общей сложности было получено 56 ML-патентов, большинство — в последние три года. Среди недавно полученных патентов 18 были зарегистрированы Ведомством по патентам и товарным знакам США, 7 — Европейским патентным ведомством, 4 — Японским патентным ведомством.

«Мы одна из немногих компаний, которые патентуют технологии, не входящие в основное портфолио продуктов. Интересы наших исследователей часто выходят за рамки кибербезопасности, что доказывает количество патентов, полученных нами в области машинного обучения. Это подтверждает, что „Лаборатория Касперского“ — компания-визионер, которая стремится искать перспективы в разных технологических направлениях», — комментирует Антон Тихомиров, руководитель отдела стратегического развития интеллектуальной собственности «Лаборатории Касперского».

Всего за свою историю «Лаборатория Касперского» получила более 1200 патентов, в том числе в США, России, ЕС, Китае и Японии. Узнать подробнее о технологиях компании можно здесь.

Исследователи взломали защиту Apple Intelligence через инъекцию промпта

Исследователи рассказали о недавно пропатченной уязвимости в Apple Intelligence, которая позволяла обходить встроенные ограничения и заставлять локальную языковую модель выполнять действия по сценарию атакующего.

Подробности атаки описаны сразу в двух публикациях. По словам авторов исследования, им удалось объединить две техники атаки и через инъекцию промпта добиться выполнения вредоносных инструкций на устройстве.

Как объясняют специалисты, запрос пользователя сначала проходит через входной фильтр, который должен отсекать опасный контент. Если всё выглядит безопасно, запрос отправляется в саму модель, а затем уже готовый ответ проверяет выходной фильтр. Если система замечает что-то подозрительное, вызов API просто завершается с ошибкой.

Чтобы обойти эту схему, исследователи собрали эксплойт из двух частей. Сначала они использовали строку с вредоносным содержимым в перевёрнутом виде и добавляли Unicode-символ RIGHT-TO-LEFT OVERRIDE. За счёт этого на экране текст отображался нормально, а вот в «сыром» виде для фильтров оставался перевёрнутым. Это помогало пройти проверку на входе и выходе.

 

Второй частью цепочки стала техника Neural Exec. По сути, это способ подменить или переопределить исходные инструкции модели так, чтобы она начала следовать уже командам атакующего, а не базовым системным ограничениям.

В итоге первая техника позволяла обмануть фильтры, а вторая — заставляла модель вести себя не так, как задумано. Для проверки исследователи прогнали 100 случайных сценариев, комбинируя системные промпты, вредоносные строки и внешне безобидные тексты, например фрагменты из статей Wikipedia. В этих тестах успешность атаки составила 76%.

О проблеме Apple уведомили ещё в октябре 2025 года. С тех пор компания усилила защитные механизмы, а патчи вошли в состав iOS 26.4 и macOS 26.4.

RSS: Новости на портале Anti-Malware.ru