ИБ-эксперт обманом заставил ChatGPT создать неуловимого зловреда-стилера

ИБ-эксперт обманом заставил ChatGPT создать неуловимого зловреда-стилера

ИБ-эксперт обманом заставил ChatGPT создать неуловимого зловреда-стилера

Не написав ни строчки кода, Эрон Малгрю (Aaron Mulgrew) из Forcepoint обошел защиту от злоупотребления ChatGPT и убедил его сгенерировать небольшие фрагменты, а затем собрать их воедино. В итоге экспериментатор получил рабочий образец инфостилера, который при проверке на VirusTotal показал нулевой результат.

Целью досужего исследования являлось доказательство реальности использования ИИ-бота для создания зловредов. Эксперт также удостоверился, что для этого не нужны навыки программиста, а введенные OpenAI ограничения — не помеха.

Сам Малгрю занимается в Forcepoint вопросами киберзащиты клиентских объектов критической инфраструктуры (КИИ). В комментарии для Dark Reading он отметил, что по роду работы ему не нужно писать вредоносные программы или проводить пентесты, и такой опыт у него невелик.

Использование ChatGPT позволило значительно сократить процесс (занял около четырех часов), но из-за наличия контент-фильтров на сервисе пришлось хитрить. В блог-записи эксперта подробно рассказано, как он добивался нужной реакции с помощью подсказок.

На прямолинейную просьбу сгенерировать код, который можно определить как вредоносный, ИИ ожидаемо ответил отказом, заявив, что такое поведение с его стороны было бы неэтичным и аморальным. Тогда Малгрю решил разбить поставленную задачу на этапы, заставив бот генерировать мелкие фрагменты кода, которые в комбинации дали бы искомый результат.

Первая успешная подсказка помогла создать механизм поиска локальных PNG-файлов весом более 5 Мбайт. После этого ChatGPT дополнил его кодом для сокрытия найденных PNG с помощью стеганографии — с этой целью ИИ запросил соответствующую библиотеку на GitHub.

Затем были созданы код поиска документов Word и PDF и более сложный механизм, позволяющий дробить файлы больше 1 Мбайт, встраивать блоки данных в PNG и стегосредствами прятать итог. Финальный фрагмент выполнял вывод информации на Google Диск.

Сборка с помощью подсказки, против ожидания, оказалась самой легкой задачей. Проверка вредоноса на VirusTotal показала результат 5/60. Помудрив с вызовом стегобиблиотеки, Малгрю с помощью чат-бота добился искомого FUD.

При этом он умело подсказывал ИИ, как сократить цифровой след, и ни разу не упомянул цель — обход антивирусов. Вместо обфускации (слово-табу для ChatGPT) исследователь предложил изменить имена переменных и обеспечить защиту интеллектуальной собственности, и собеседник с готовностью накрепко запутал код.

Для доставки зловреда ИИ попросили создать файл SCR, встроить в него полученный экзешник и обеспечить автозапуск на Windows-машинах — якобы для облегчения использования бизнес-приложениями. Чат-бот согласился только написать соответствующие инструкции; итог на VirusTotal — 3/69 (эксперт подозревает, что флаги поставили продукты, считающие все SCR-файлы подозрительными).

Microsoft убрала ослепляющие белые вспышки в Проводнике Windows 11

Microsoft наконец-то избавила пользователей Windows 11 от раздражающей проблемы с яркими белыми вспышками в Проводнике при использовании тёмной темы. Баг проявлялся после установки необязательного обновления KB5070311 и выглядел особенно болезненно — буквально «вспышка в глаза» при каждом запуске Проводника.

Проблема возникала не только при открытии File Explorer, но и в ряде повседневных сценариев: при создании новой вкладки, выборе пункта «Больше информации» во время копирования файлов, включении и отключении панели сведений, а также при переходах в разделы «Главная» и «Галерея».

Единственным временным «лечением» до недавнего времени был отказ от тёмного режима.

Microsoft официально признала баг ещё на прошлой неделе, отметив, что окно Проводника «на мгновение отображает пустой белый экран перед загрузкой файлов и папок». Теперь эта история закрыта: исправление вошло в декабрьское накопительное обновление KB5072033, выпущенное в рамках Patch Tuesday.

Источник: BleepingComputer

 

В сопроводительном описании Microsoft кратко пояснила: обновление устраняет проблему, из-за которой File Explorer кратковременно вспыхивал белым цветом при навигации между страницами.

Но на этом список исправлений не заканчивается. В KB5072033 также устранили баг, из-за которого виртуальные машины теряли сетевое подключение после перезапуска хоста, если внешний виртуальный коммутатор «отвязывался» от физического сетевого адаптера.

Кроме того, обновление затронуло Windows PowerShell: теперь система предупреждает пользователей, если скрипты используют командлет Invoke-WebRequest для загрузки контента из интернета — это должно снизить риск незаметного запуска вредоносного кода.

Напомним, что в ноябре Microsoft разбиралась ещё с одной серьёзной проблемой: при установке накопительных обновлений на Windows 11 24H2 и 25H2 могли аварийно завершаться Проводник, меню «Пуск» и другие ключевые компоненты оболочки. В некоторых случаях система оставалась частично работоспособной, но без навигации и элементов интерфейса.

RSS: Новости на портале Anti-Malware.ru