Исследователи спрятали зловреда в модели нейросети, и это сработало

Исследователи спрятали зловреда в модели нейросети, и это сработало

В Университете Китайской академии наук убедились, что использование технологии нейронных сетей для доставки вредоносного кода способно надежно скрыть его от антивирусов. Исследование показало, что в модели можно безбоязненно подменить до половины искусственных нейронов — потеря производительности составит менее 7%, и защитные сканеры вряд ли заметят присутствие зловреда.

Для экспериментов была выбрана (PDF) сверточная нейросеть AlexNet — классическая модель, зачастую используемая для проверки эффективности алгоритмов машинного зрения. Вооружившись несколькими образцами реальных вредоносов, исследователи по-разному прятали их в скрытых слоях сети, фиксируя процент замен и точность предсказаний при прогоне контрольных изображений.

В итоге оказалось, что в 178М-байтовую модель AlexNet можно внедрить до 36,9МБ стороннего кода с потерей производительности менее 1%. Проверка результатов с помощью 58 антивирусов из коллекции VirusTotal не дала ни одного положительного срабатывания.

Для проведения атаки злоумышленнику, со слов исследователей, нужно вначале построить нейросеть и потренировать ее на заранее подготовленном наборе данных. Можно также приобрести уже обученный образец, внедрить вредоносный код и убедиться, что его присутствие не влечет неприемлемую потерю производительности. Подготовленная модель публикуется в общедоступном хранилище и начинает раздаваться, например, как апдейт в рамках атаки на цепочку поставок.

Предложенный подход предполагает дизассемблирование вредоносного кода перед встраиванием в искусственные нейроны. Обратную сборку выполняет программа-загрузчик, запущенная на целевом устройстве. Исполнение зловреда при этом можно предотвратить, если настройки атакуемой системы предусматривают верификацию загружаемого ИИ-контента. Выявить непрошеного гостя сможет также статический или динамический анализ кода.

«Обнаружить такого зловреда с помощью антивирусов в настоящее время затруднительно, — комментирует известный ИБ-специалист Лукаш Олейник (Lukasz Olejnik). — Но причина лишь в том, что никому в голову не приходит искать его в подобном месте».

Эксперты предупреждают, что рост популярности технологии нейросетей открывает новые возможности для злоупотреблений. Ее можно использовать, например, для взлома CAPTCHA, троллинга, шантажа и мошенничества, а также засева бэкдоров (PDF). Исследование возможных сценариев абьюза ИИ — залог успешной борьбы с этой ИБ-угрозой.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Яндекс Дзен, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

NVIDIA устранила четыре опасные уязвимости в драйверах для видеокарт

NVIDIA выпустила обновления драйверов для целого ряда видеокарт, чтобы устранить десять уязвимостей. Четыре выявленные бреши получили высокую степень риска, ещё шесть — среднюю. В случае эксплуатации злоумышленники могут вызвать DoS, добраться до важной информации, повысить права и выполнить код.

В результате апдейты получили программные продукты Tesla, RTX/Quadro, NVS, Studio и GeForce, а также, соответственно, драйверы линеек R450, R470 и R510.

 

Интересно, что NVIDIA в этот раз не обделила патчами даже серии видеокарт GTX 600 и GTX 700, поддержка которых закончилась в октябре 2021 года. Ранее корпорация обещала выпускать критически важные обновления для этих линеек вплоть до сентября 2024 года.

Четыре наиболее опасные уязвимости, устранённые с этим набором патчей, получили следующие идентификаторы:

  • CVE-2022-28181 (8,5 балла по CVSS v3) — возможность записи за пределами границ на уровне ядра. Может привести к выполнению кода, DoS, повышению привилегий, раскрытию информации и повреждению данных.
  • CVE-2022-28182 (8,5 балла по CVSS v3) — баг в драйвере DirectX11 уровня пользователя, позволяющий злоумышленнику без аутентификации вызвать DoS, повысить права и раскрыть информацию.
  • CVE-2022-28183 (7,7 балла по CVSS v3) — может привести к чтению за пределами границ, DoS и раскрытию информации.
  • CVE-2022-28184 (7,1 балла по CVSS v3) — брешь в nvlddmkm.sys, также позволяющая вызвать DoS и привести к раскрытию информации.

Подробнее о пропатченных уязвимостях можно почитать в официальном бюллетене NVIDIA.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Яндекс Дзен, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru