ИБ-эксперт обманом заставил ChatGPT создать неуловимого зловреда-стилера

ИБ-эксперт обманом заставил ChatGPT создать неуловимого зловреда-стилера

ИБ-эксперт обманом заставил ChatGPT создать неуловимого зловреда-стилера

Не написав ни строчки кода, Эрон Малгрю (Aaron Mulgrew) из Forcepoint обошел защиту от злоупотребления ChatGPT и убедил его сгенерировать небольшие фрагменты, а затем собрать их воедино. В итоге экспериментатор получил рабочий образец инфостилера, который при проверке на VirusTotal показал нулевой результат.

Целью досужего исследования являлось доказательство реальности использования ИИ-бота для создания зловредов. Эксперт также удостоверился, что для этого не нужны навыки программиста, а введенные OpenAI ограничения — не помеха.

Сам Малгрю занимается в Forcepoint вопросами киберзащиты клиентских объектов критической инфраструктуры (КИИ). В комментарии для Dark Reading он отметил, что по роду работы ему не нужно писать вредоносные программы или проводить пентесты, и такой опыт у него невелик.

Использование ChatGPT позволило значительно сократить процесс (занял около четырех часов), но из-за наличия контент-фильтров на сервисе пришлось хитрить. В блог-записи эксперта подробно рассказано, как он добивался нужной реакции с помощью подсказок.

На прямолинейную просьбу сгенерировать код, который можно определить как вредоносный, ИИ ожидаемо ответил отказом, заявив, что такое поведение с его стороны было бы неэтичным и аморальным. Тогда Малгрю решил разбить поставленную задачу на этапы, заставив бот генерировать мелкие фрагменты кода, которые в комбинации дали бы искомый результат.

Первая успешная подсказка помогла создать механизм поиска локальных PNG-файлов весом более 5 Мбайт. После этого ChatGPT дополнил его кодом для сокрытия найденных PNG с помощью стеганографии — с этой целью ИИ запросил соответствующую библиотеку на GitHub.

Затем были созданы код поиска документов Word и PDF и более сложный механизм, позволяющий дробить файлы больше 1 Мбайт, встраивать блоки данных в PNG и стегосредствами прятать итог. Финальный фрагмент выполнял вывод информации на Google Диск.

Сборка с помощью подсказки, против ожидания, оказалась самой легкой задачей. Проверка вредоноса на VirusTotal показала результат 5/60. Помудрив с вызовом стегобиблиотеки, Малгрю с помощью чат-бота добился искомого FUD.

При этом он умело подсказывал ИИ, как сократить цифровой след, и ни разу не упомянул цель — обход антивирусов. Вместо обфускации (слово-табу для ChatGPT) исследователь предложил изменить имена переменных и обеспечить защиту интеллектуальной собственности, и собеседник с готовностью накрепко запутал код.

Для доставки зловреда ИИ попросили создать файл SCR, встроить в него полученный экзешник и обеспечить автозапуск на Windows-машинах — якобы для облегчения использования бизнес-приложениями. Чат-бот согласился только написать соответствующие инструкции; итог на VirusTotal — 3/69 (эксперт подозревает, что флаги поставили продукты, считающие все SCR-файлы подозрительными).

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Sony вновь массово блокирует российских геймеров

Компания Sony начала очередную волну массовых блокировок учетных записей российских пользователей PlayStation Network. По сообщениям геймеров, блокировка может произойти уже через несколько дней после регистрации — даже если аккаунт создан недавно и не проявлял подозрительной активности. Пользователи теряют доступ к ранее купленным играм, подпискам и цифровым сервисам.

При этом Sony никак официально не комментирует происходящее, оставляя ситуацию без разъяснений. О новой волне блокировок сообщил телеграм-канал Shot.

Обратившиеся в техническую поддержку получают типовой ответ: блокировка произведена по решению головного офиса компании и отмене не подлежит.

По мнению экспертов игрового рынка, за массовыми блокировками могут стоять сразу несколько причин:

  • борьба с перепродажами украденных аккаунтов и незаконным оборотом учетных данных;
  • ужесточение политики против так называемых "ложных регистраций" в других странах, с целью получения доступа к более низким ценам на игры.

Как рассказал в комментарии «Вечерней Москве» глава Русской ассоциации дистрибьюторов и импортеров видеоигр Яша Хаддажи, на чёрном рынке активно продаются похищенные учетные данные пользователей PlayStation Network. В случае жалобы от настоящего владельца Sony действительно блокирует такие аккаунты. Хаддажи рекомендует самостоятельно регистрировать аккаунты в третьих странах, чтобы минимизировать риски.

В то же время, по словам независимого эксперта Александра Кузьменко, Sony также активно борется с попытками пользователей экономить за счёт создания аккаунтов в других регионах. Разница в ценах может быть колоссальной — например, одна и та же игра в США и Турции может отличаться в пять раз. Однако доказать, что регистрация аккаунта в другой стране связана с реальным переездом, удаётся не всегда. По мнению эксперта, в такой ситуации у части пользователей может остаться только один выход — смена игровой платформы.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru