Нейросеть ChatGPT помогает создавать вредоносные программы

Нейросеть ChatGPT помогает создавать вредоносные программы

Нейросеть ChatGPT помогает создавать вредоносные программы

Участники хакерских форумов используют чат-бот ChatGPT для создания вредоносных программ. Некоторые пользователи даже не обладают навыками программирования. Обойти условия разработчика и настроить нейросеть на криминальный мотив оказалось довольно просто.

Американская лаборатория искусственного интеллекта OpenAI запустила чат-бот в ноябре. Нейросеть ищет ответы на вопросы, комментарии, помогает создавать рассказы, а также работать с кодом (писать, отвечать и находить ошибки в написанном).

Эксперты Check Point Research выяснили, что в первые недели после запуска ChatGPT участники хакерских форумов применяли его для написания программ, которые можно использовать в целях шпионажа, вымогательства и рассылки вредоносного спама.

“Еще слишком рано говорить о том, станет ли ChatGPT новым любимым инструментом даркнета”, — пишут исследователи. — “Однако сообщество киберпреступников уже проявило значительный интерес и использует эту тенденцию для создания вредоносного кода”.

 

Несколько примеров тому уже есть. Так в декабре один из участников форума опубликовал код на языке Python. Им оказался скрипт для кражи данных после внедрения эксплойта, который смог отыскать конкретные типы файлов вроде PDF и отправить их злоумышленникам.

Пользователь кажется подкованным преступником, считают эксперты Check Point Research. Цель его постов — показать не таким способным злоумышленникам, как использовать ChatGPT в корыстных целях, с реальными примерами, которые они могут сразу же использовать.

Специалисты по кибербезопасности решили провести собственный эксперимент. Они попросили ChatGPT сгенерировать фишинговое письмо, в котором пользователю сообщалось о блокировке учетной записи. Вместе с письмом потенциальной жертве должно было прийти вложение со встроенным VBA-макросом. Разработать его также доверили чат-боту.

И хотя правила ChatGPT запрещают использовать продукт в незаконных целях, исследователи легко обошли ограничения и заставили нейросеть выполнять необходимые запросы.

Безусловно, ChatGPT можно использовать и для защиты кода, добавляют эксперты. Нейросеть будет искать вредоносные URL-адреса внутри файлов или запрашивать у VirusTotal количество совпадений с заданным хэшем.

Добавим, уже в Новом году стало известно, что американская OpenAI, создавшая чат-бот ChatGPT, ведет переговоры с инвесторами о продаже своих акций исходя из оценки всей компании примерно в $29 млрд.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

BlueNoroff запустила новые атаки с применением GenAI на криптокомпании

Эксперты Kaspersky GReAT опубликовали данные о новых кампаниях киберпреступной группы BlueNoroff, входящей в состав Lazarus. Две операции — GhostCall и GhostHire — активно проводятся с апреля 2025 года и нацелены на криптовалютные и Web3-организации.

В ходе атак злоумышленники используют единые инструменты и инфраструктуру, заражая устройства на macOS и Windows.

По сути, это продолжение масштабной кампании SnatchCrypto, в рамках которой BlueNoroff охотится за активами компаний, работающих с криптовалютами, DeFi-проектами и блокчейном.

GhostCall: атака через «видеозвонок»

GhostCall ориентирована на macOS-устройства. Злоумышленники действуют через Telegram, представляясь венчурными инвесторами. Иногда они используют взломанные аккаунты реальных предпринимателей, чтобы выглядеть убедительно.

Жертву приглашают на фальшивую онлайн-встречу, оформленную под Zoom или Microsoft Teams, где «для решения проблем со звуком» предлагают установить обновление. Вместо него на устройство загружается вредоносный скрипт.

Эксперты отмечают, что преступники даже включают заранее записанные видео прежних жертв, чтобы встреча выглядела реалистично. Полученные данные затем используются не только против конкретного человека, но и против его компании или партнёров по цепочке поставок.

GhostHire: атака под видом вакансии

В кампании GhostHire злоумышленники выдают себя за рекрутеров и рассылают блокчейн-разработчикам фальшивые вакансии. Чтобы «пройти тестовое задание», кандидат должен скачать репозиторий с GitHub — внутри которого скрыта вредоносная программа.

Если жертва подключается к телеграм-боту из объявления, ей приходит ZIP-архив или ссылка, и после запуска файлов система заражается.

Обе кампании используют одну инфраструктуру и схожие инструменты. Главная цель — кража криптовалюты, конфиденциальных данных и учётных записей.

Искусственный интеллект на службе злоумышленников

По данным Kaspersky, BlueNoroff активно применяет генеративный ИИ для разработки вредоноса и автоматизации атак. Это позволяет группе быстрее создавать новые образцы, улучшать код и обходить системы защиты.

«Теперь атакующие не просто крадут криптовалюту — они используют ИИ, чтобы точнее выбирать жертв и действовать масштабнее», — объяснил старший эксперт Kaspersky GReAT Омар Амин.

По словам Соджуна Рю, одного из исследователей GReAT, BlueNoroff выводит свои кампании на новый уровень:

«Мы видим сочетание социальной инженерии, технической сложности и высокой степени персонализации. Такие атаки направлены не только на людей, но и на всю цепочку поставок внутри криптоиндустрии».

Эксперты предупреждают, что появление GhostCall и GhostHire демонстрирует переход BlueNoroff от точечных атак к более комплексным операциям с элементами социальной инженерии и использованием ИИ.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru