Исследователи из Колумбийского университета предложили два новаторских способа обеспечения безопасности по памяти аппаратными средствами. Оба метода можно реализовать, слегка изменив микроархитектуру. Тестирование показало, что при подходе No-FAT снижение производительности незначительно — около 8%; в случае ZeRØ потери равны нулю.
Безопасность доступа к памяти — давняя проблема, о которой каждый раз вспоминают при появлении серьезных угроз. За сорок лет было предложено множество различных решений, но они либо плохо работали, либо требовали жертв. Меры противодействия эксплойту Spectre и Meltdown, например, повлекли падение производительности — в среднем на 20%, в отдельных случаях в два раза. Кроме того, с появлением новых угроз используемая защита может потерять свою эффективность, и специалистам придется искать альтернативные решения.
Согласно описанию ZeRØ (PDF), этот механизм позволяет обеспечить защиту кода и указателей системы, притом без поражения в производительности. Его реализация предполагает замену инструкций обращения к памяти и схемы кодирования метаданных — по словам авторов проекта, эти изменения можно привнести в современные процессоры без особого труда. Университетские исследователи предлагают использовать ZeRØ в дополнение к средствам противодействия атакам на память.
Техника No-FAT (PDF) была разработана с прицелом на снижение потребления ресурсов при проверках безопасности по памяти. С этой целью авторы исследования предложили использовать группировку распределителей памяти (memory allocator binning) — набрающий популярность метод, который позволяет ускорить вычисление начального адреса и размера участка памяти, выделенного под указатель, притом выполнять это во время доступа к данным.
Применение No-FAT, по словам разработчиков, снимает многие проблемы, свойственные традиционным подходам, — такие как совместимость с незащищенным софтом и заметное падение производительности. Прогон тестов SPEC CPU2017 показал, что при новом способе защиты памяти быстродействие снижается примерно на 8%.
Среди прочих достоинств создатели No-FAT особо отметили надежную защиту от некоторых видов Spectre-атак. Их метод также позволяет значительно ускорить фаззинг при поиске уязвимостей, автоматическую очистку памяти, улучшить предсказуемость предвыборки данных и работы контроллеров DRAM.
Финансирование проектов ZeRØ и No-FAT частично осуществлялось за счет грантов, полученных от ВМС и ВВС США, а также целевой дотации Qualcomm. Спецподразделение ВВС уже работает над созданием чипов с новой встроенной защитой.
Часть возможностей GeForce оказалась доступна после программной разблокировки. Авторы GPU Unlock и его версии для архитектуры Ada показали, как увеличить скорость отдельных матричных вычислений на потребительских видеокартах Nvidia. На RTX 4090 в синтетических тестах результат вырос примерно вдвое.
Инструмент запускается до штатного драйвера Nvidia и меняет настройки, ограничивающие скорость определённых тензорных операций. Основная мишень — вычисления FP16 и BF16 с накоплением результата в FP32, которые используются в задачах машинного обучения.
В независимом тесте RTX 4090 при одинаковом лимите мощности скорость таких инструкций действительно удвоилась. А вот в вычислениях через библиотеку cuBLAS прибавка оказалась скромнее: около 12-34% для FP16 и 16-20% для BF16 в отдельных конфигурациях. Один из вариантов нагрузки вообще не ускорился.
Разблокировка не добавляет видеопамять и не увеличивает её пропускную способность. Поэтому задачи, упирающиеся в память, могут почти ничего не выиграть. Поддержка зависит от модели карты, а основной вариант инструмента рассчитан на Linux.
Для любителей локального ИИ эти эксперименты могут быть полезны.
Свидетельство о регистрации СМИ ЭЛ № ФС 77 - 68398, выдано федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) 27.01.2017 Разрешается частичное использование материалов на других сайтах при наличии ссылки на источник. Использование материалов сайта с полной копией оригинала допускается только с письменного разрешения администрации.
