ChatGPT убедили создать эксплойт, подсунув инструкцию в 16-ричном формате

ChatGPT убедили создать эксплойт, подсунув инструкцию в 16-ричном формате

ChatGPT убедили создать эксплойт, подсунув инструкцию в 16-ричном формате

Исследователь из Mozilla изобрел новый способ обхода контент-фильтров больших языковых моделей (БЯМ, LLM), применяемых во избежание злоупотреблений. Он разбил ввод на блоки, а вредоносную инструкцию представил в шестнадцатеричной кодировке.

В качестве объекта для атаки Марко Фигероа (Marco Figueroa) избрал GPT-4o, новейший и самый мощный чат-бот производства OpenAI. Его ИИ-модель анализирует пользовательский ввод, выискивая запрещенные слова, признаки злого умысла в инструкциях и т. п.

Подобные ограничения LLM можно обойти, изменив формулировки, однако это потребует креатива. Руководитель проектов bug bounty Mozilla по генеративному ИИ пошел более простым путем.

Используя нестандартный формат — шестнадцатеричный, Фигероа попросил GPT-4o изучить имеющуюся в интернете информацию об уязвимости CVE-2024-41110 (в Docker) и написать для нее эксплойт. Подробные инструкции по расшифровке вводились на естественном языке, а слово «exploit», способное вызвать негативную реакцию, было набрано как «3xploit».

 

Команда «еще раз прочесть все задание» была призвана повлиять на интерпретацию запроса с тем, чтобы получить более обстоятельный ответ. В итоге ИИ-бот сгенерировал эксплойт, схожий с уже опубликованным PoC, и бонусом попытался опробовать его на себе — к удивлению собеседника, который об этом не просил.

Расшифровка ввода в шестнадцатеричном формате помогла рассеять внимание LLM, которые и без того не видят леса за деревьями: прилежно анализируют каждую реплику, забывая, что в сумме они могут вызвать неприемлемый вывод.

Ту же тактику джейлбрейка ИИ Фигероа опробовал на LLM другого производителя, Anthropic. Оказалось, что они лучше защищены, так как используют фильтрацию и ввода, и вывода; заставить их дать вредный совет, по словам исследователя, в 10 раз труднее.

Windows 11 получит турборежим для быстрого запуска приложений

Windows 11 может стать заметно шустрее уже в июне 2026 года. Microsoft готовит крупное обновление производительности с функцией Low Latency Profile, которая должна ускорить запуск приложений и основные элементы системы: меню «Пуск», поиск и центр уведомлений.

Суть функции простая: когда пользователь открывает приложение или вызывает важный системный элемент, Windows на короткое время разгоняет частоту процессора.

Обычно речь идёт о всплеске на одну–три секунды. Приложение открывается быстрее, интерфейс меньше думает, а процессор затем возвращается в спокойный режим.

 

Нововведение уже появилось в сборке Windows 11 Build 26200.8514. В описании Microsoft не использует название Low Latency Profile, но прямо говорит об ускорении запуска приложений и ключевых элементов оболочки. Это означает, что до массового релиза осталось совсем немного.

Ожидается, что самые нетерпеливые пользователи смогут получить обновление уже с опциональным патчем в конце мая 2026 года. Для остальных функция должна приехать автоматически в рамках обязательного июньского набора патчей.

По данным Windows Latest, эффект заметен особенно хорошо на слабом железе. При тестировании на виртуальной машине с Intel Core i5, двумя ядрами и 4 ГБ оперативной памяти запуск Edge и Outlook сопровождался кратким скачком загрузки CPU почти до 96%, после чего приложения открывались быстрее, а процессор возвращался в простой примерно за три секунды.

 

Критики обвинили Microsoft в том, что компания не оптимизирует Windows, а просто лупит процессором по лагам. В ответ в Microsoft объяснили, что похожая логика race to sleep давно используется в macOS и Linux. Идея в том, чтобы быстро выполнить задачу на максимальной мощности и сразу вернуться к экономии энергии.

При этом Low Latency Profile — не единственная попытка ускорить Windows 11. Microsoft параллельно работает над оптимизацией WinUI 3, нативного интерфейсного фреймворка системы. Инженеры уже заявляли о снижении числа выделений памяти в Проводнике на 41% и сокращении времени выполнения WinUI-кода на 25%.

RSS: Новости на портале Anti-Malware.ru