ИИ-бот ChatGPT оказался сносным вирусным аналитиком и ИБ-криминалистом

ИИ-бот ChatGPT оказался сносным вирусным аналитиком и ИБ-криминалистом

ИИ-бот ChatGPT оказался сносным вирусным аналитиком и ИБ-криминалистом

Специалисты по ИБ попытались выяснить, сможет ли хайповый ChatGPT облегчить жизнь компьютерным криминалистам и командам реагирования на киберинциденты. Результаты экспериментов показали, что умный чат-бот подает надежды как помощник, но ему еще нужно учиться и учиться.

Построенный на основе нейросети ChatGPT быстро набрал популярность; по данным Similarweb, за два месяца посещаемость сайта разработчика (OpenAI) возросла с 10 до 25 млн уникальных пользователей в сутки. К сожалению, некоторые из них имеют недобрые намерения: зафиксированы попытки использовать бесплатный инструмент для создания зловредов.

В связи с этим в ANY.RUN решили проверить, можно ли также привлечь ChatGPT к анализу вредоносного кода. Исследователи скормили чат-боту несколько скриптов из своей коллекции, дав задание выяснить, как работает код.

Результаты по небольшим фрагментам кода (сценарий сокрытия дисков в Проводнике Windows, скрипт простейшего шифровальщика) оказались обнадеживающими: эксперты получили корректное и детальное описание с выводом о вероятном назначении. Анализировать более сложный код ИИ отказался, а наличие обфускации вызвало ошибку:

 

Эксперты попробовали переформулировать задание. Это сработало, но ответ их не удовлетворил: вместо того, чтобы попытаться деобфусцировать скрипт, умный помощник заявил, что код нечитаем.

В «Лаборатории Касперского» тоже поэкспериментировали с ChatGPT, чтобы выяснить, насколько он пригоден для ИБ-нужд, в частности, для экспертизы на основе идентификаторов компрометации (IoC). Вначале исследователи проверили, может ли чат-бот принять за угрозу такие широко используемые в атаках инструменты, как Mimikatz и Fast Reverse Proxy.

Результаты оказались многообещающими, как и в случае с классическом методом маскировки — переименованием процессов. Бот также корректно идентифицировал домены, имитирующие легитимные сайты, в том числе используемые FIN7. В качестве обоснования он не стал перечислять хорошо известные IoC, а заявил, что имя домена наводит на мысль о попытке убедить пользователей в его легитимности.

На хешах ChatGPT обломался, он не опознал даже такого хорошо детектируемого зловреда, как WannaCry. Эксперимент с метаданными дал более полезные результаты. Для извлечения метаданных ИИ предложили написать Powershell-скрипт в рамках задачи по выявлению IoC. Созданный ботом сценарий в Kaspersky потом доработали, получив простейший IoC-сканер для удаленной проверки систем с использованием службы WinRM.

 

Чтобы проверить PoC, в тестовую систему внедрили агенты Meterpreter и PowerShell Empire, а затем сымитировали типовую атаку и запустили IoC-сканер. На выходе эксперты получили отчет, дополненный комментариями ChatGPT; среди 137 запущенных процессов тандем корректно выявил два вредоносных, притом не дал ни одного ложноположительного срабатывания.

Обфусцированные образцы PowerShell не смутили ИИ. Присутствие такой маскировки было не только отмечено, но также уточнено: бот распознал использование XOR, Base64 и подстановки переменных.

Для выявления подозрительных событий, ассоциирующихся с Windows-службами, ChatGPT пришлось слегка притормозить, чтобы избежать когнитивных искажений. В результате ИИ отработал успешно и без ложноположительных срабатываний. Исследователей также порадовал тот факт, что количество событий, которые аналитику пришлось бы верифицировать вручную, значительно сократилось.

System metadata

Events in dataset

Highlighted by ChatGPT

# of False Positives

Running Processes

137

2

0

Service Installations

12

7

0

Process Creation Events

1033

36

15

Sysmon Process Creation events

474

24

1

PowerShell ScriptBlocks

509

1

0

Autoruns

1412

4

1

Эксперты пришли к выводу, что ChatGPT потенциально сможет оказывать помощь ИБ-исследователям и тестировщикам в решении следующих задач:

  • проверка систем на наличие IoC (за неимением EDR);
  • корректировка базы сигнатур (сравнение текущего набора правил с выходом ChatGPT);
  • обнаружение обфусцированного кода;
  • выявление сходства с известными угрозами.

Чтобы эффективно использовать такого помощника, как ИИ, нужно уметь правильно задавать вопросы. К такому выводу пришли в Kaspersky, у ChatGPT может быть другое мнение.

Почти половина кибератак на промышленность в России оказалась успешной

Почти половина кибератак на российские промышленные предприятия в 2025 году — 47% — оказались успешными и привели к сбоям в основной деятельности компаний. Для сравнения: в 2024 году к таким последствиям привели лишь 31% инцидентов. Точное число атак не раскрывается, однако эксперты дают понять, что речь идёт о тысячах случаев.

Такую статистику приводят «Ведомости» со ссылкой на Positive Technologies. В компании отмечают, что доминирующей схемой атак остаётся двойное вымогательство — когда злоумышленники одновременно похищают ценные данные и блокируют работу критически важных сервисов, угрожая публикацией информации в случае отказа от выкупа.

Аналитик центра мониторинга «Спикатела» Даниил Глушаков привёл собственные данные за 2025 год: всего было зафиксировано около 22 тыс. инцидентов, что на 42% больше, чем годом ранее. В 22% случаев атаки были признаны серьёзными, так как привели к финансовому ущербу, повлияли на операционную деятельность компаний или сочетали оба этих фактора.

 

Как отмечает руководитель отдела защиты информации InfoWatch ARMA Роман Сафиуллин, компании крайне неохотно раскрывают информацию о кибератаках. Однако полностью скрыть последствия таких инцидентов практически невозможно. Зачастую о взломе сообщают сами злоумышленники, а в других случаях проблемы становятся заметны по косвенным признакам — недоступности внешних сервисов, сбоям в работе ИТ-систем или замедлению взаимодействия с контрагентами. Причём чем крупнее компания, тем более заметны последствия атаки.

Аналитик исследовательской группы Positive Technologies Валерия Беседина отметила, что на промышленность в 2025 году пришлось 15% всех кибератак — столько же, сколько и на госсектор, который ранее долгое время лидировал по этому показателю. Третье и четвёртое места заняли ИТ-компании и сфера услуг — по 7% атак. При этом ИТ-компании нередко становятся целью как промежуточное звено для последующих атак на их клиентов. По данным «Спикатела», доля атак на промышленность достигает 34%, а на телеком — 26%.

Рост интереса злоумышленников к промышленным компаниям Роман Сафиуллин объясняет двумя ключевыми факторами. Во-первых, инструменты для атак на промышленные системы, включая АСУ ТП, стали доступнее — их всё больше появляется на теневых площадках, а стоимость постоянно снижается. Во-вторых, последствия атак на промышленные объекты сложно скрыть, особенно от персонала, что обеспечивает заметный медийный эффект, на который нередко рассчитывают политически мотивированные злоумышленники.

Представитель InfoWatch ARMA также подтвердил, что одной из основных целей атак остаётся кража данных. Это характерно как для инцидентов с применением шифровальщиков или вайперов — зловредов, уничтожающих информацию, — так и для атак без явного разрушения данных. Во втором случае злоумышленники, как правило, стараются как можно дольше оставаться в инфраструктуре компании, не выдавая своего присутствия.

Руководитель Kaspersky ICS CERT Евгений Гончаров, ссылаясь на глобальную статистику, оценил долю инцидентов, повлиявших на основную деятельность компаний, примерно в 20%. Так, в третьем квартале 2025 года перебои в операционных процессах были зафиксированы в 30 из 128 подтверждённых инцидентов в организациях промышленного и транспортного секторов.

По оценке руководителя департамента киберразведки (Threat Intelligence) компании F6 Елены Шамшиной, средний размер выкупа за восстановление данных в 2025 году составил от 4 до 40 млн рублей для крупных компаний и от 240 тыс. до 4 млн рублей для малого и среднего бизнеса. По сравнению с 2024 годом рост требований достиг 67%. При этом оценить средний размер ущерба сложно, поскольку сроки восстановления после атак могут существенно различаться.

Руководитель группы расследования инцидентов центра исследования Solar 4RAYS ГК «Солар» Иван Сюхин не видит предпосылок для снижения количества атак в ближайшее время. По его словам, наибольшее давление продолжат испытывать промышленность, ТЭК, логистика, госсектор и другие критически значимые отрасли.

RSS: Новости на портале Anti-Malware.ru