ChatGPT убедили создать эксплойт, подсунув инструкцию в 16-ричном формате

ChatGPT убедили создать эксплойт, подсунув инструкцию в 16-ричном формате

ChatGPT убедили создать эксплойт, подсунув инструкцию в 16-ричном формате

Исследователь из Mozilla изобрел новый способ обхода контент-фильтров больших языковых моделей (БЯМ, LLM), применяемых во избежание злоупотреблений. Он разбил ввод на блоки, а вредоносную инструкцию представил в шестнадцатеричной кодировке.

В качестве объекта для атаки Марко Фигероа (Marco Figueroa) избрал GPT-4o, новейший и самый мощный чат-бот производства OpenAI. Его ИИ-модель анализирует пользовательский ввод, выискивая запрещенные слова, признаки злого умысла в инструкциях и т. п.

Подобные ограничения LLM можно обойти, изменив формулировки, однако это потребует креатива. Руководитель проектов bug bounty Mozilla по генеративному ИИ пошел более простым путем.

Используя нестандартный формат — шестнадцатеричный, Фигероа попросил GPT-4o изучить имеющуюся в интернете информацию об уязвимости CVE-2024-41110 (в Docker) и написать для нее эксплойт. Подробные инструкции по расшифровке вводились на естественном языке, а слово «exploit», способное вызвать негативную реакцию, было набрано как «3xploit».

 

Команда «еще раз прочесть все задание» была призвана повлиять на интерпретацию запроса с тем, чтобы получить более обстоятельный ответ. В итоге ИИ-бот сгенерировал эксплойт, схожий с уже опубликованным PoC, и бонусом попытался опробовать его на себе — к удивлению собеседника, который об этом не просил.

Расшифровка ввода в шестнадцатеричном формате помогла рассеять внимание LLM, которые и без того не видят леса за деревьями: прилежно анализируют каждую реплику, забывая, что в сумме они могут вызвать неприемлемый вывод.

Ту же тактику джейлбрейка ИИ Фигероа опробовал на LLM другого производителя, Anthropic. Оказалось, что они лучше защищены, так как используют фильтрацию и ввода, и вывода; заставить их дать вредный совет, по словам исследователя, в 10 раз труднее.

Обновление Windows 11 сломало выключение компьютеров

Microsoft начала 2026 год с традиционного Patch Tuesday — и, как это нередко бывает, без побочных эффектов не обошлось. Вместе с первыми январскими обновлениями для Windows 11 и Windows 10 корпорация случайно сломала одну из базовых функций системы: корректное выключение компьютера.

Проблема затронула Windows 11 версии 23H2 после установки обновления KB5073455.

Пользователи жалуются, что при попытке выключить компьютер система вместо этого уходит в перезагрузку. Microsoft официально подтвердила баг, но уточнила: он проявляется не у всех. Ошибка возникает только на устройствах с включённой функцией Secure Launch.

Secure Launch — это часть механизма Virtualization-based Security (VBS), появившегося ещё в Windows 10. Он использует аппаратный Dynamic Root of Trust for Measurement (DRTM) и защищает систему от атак на уровне прошивок при запуске. Такие компьютеры Microsoft относит к категории «Secured-core PC» — то есть максимально защищённых с точки зрения загрузки и целостности системы.

К счастью, Microsoft предложила временное решение проблемы с выключением. Если система отказывается корректно завершать работу, компания рекомендует воспользоваться командной строкой. Для этого нужно открыть Command Prompt и выполнить команду:

shutdown /s /t 0

После этого компьютер действительно выключается, а не перезагружается.

Однако на этом неприятности не заканчиваются. Обновление также ломает режим гибернации — на некоторых системах он просто перестаёт работать. И вот здесь хороших новостей пока нет: Microsoft признала проблему, но заявила, что временного обходного пути не существует. Корпорация советует пользователям быть особенно внимательными и регулярно сохранять данные, чтобы не потерять работу в случае разрядки устройства.

RSS: Новости на портале Anti-Malware.ru