MalTerminal: первый пример вредоноса с GPT-4 внутри

MalTerminal: первый пример вредоноса с GPT-4 внутри

MalTerminal: первый пример вредоноса с GPT-4 внутри

На конференции LABScon 2025 исследователи из SentinelOne рассказали о находке, которую называют первым известным примером зловреда со «встроенным» искусственным интеллектом. Программа получила название MalTerminal.

Она представляет собой исполняемый файл для Windows, который использует GPT-4 для генерации на лету кода вымогателя или обратной оболочки.

В архиве с образцом также обнаружили Python-скрипты с аналогичными функциями и даже инструмент FalconShield, который при помощи ИИ анализирует код на признаки вредоносности.

Исследователи отмечают, что в MalTerminal встроен устаревший API OpenAI, отключённый ещё в ноябре 2023 года. Это значит, что образец создали до этой даты — и, скорее всего, это самый ранний пример LLM-вируса. При этом доказательств его использования в реальных кибератаках нет: возможно, это просто демонстрация возможностей или инструмент для пентестеров.

В SentinelOne считают, что появление LLM-встраиваемых зловредов меняет правила игры. Такие программы могут динамически генерировать команды и логику атаки, что серьёзно усложняет защиту.

 

На этом фоне другие компании тоже сообщают о новых приёмах киберпреступников. StrongestLayer, например, выявила фишинговые письма, в которых злоумышленники внедряют скрытые промпты прямо в HTML-код. Для ИИ-анализаторов такие письма выглядят безопасными, но открытие вложения запускает цепочку атаки с использованием уязвимости Follina (CVE-2022-30190).

А специалисты Trend Micro описали рост атак, где мошенники используют ИИ-сервисы для создания сайтов. Популярные платформы вроде Lovable, Netlify и Vercel применяются для хостинга поддельных CAPTCHA-страниц, ведущих на фишинговые ресурсы. Жертвы думают, что проходят проверку, а на деле вводят свои данные злоумышленникам.

Все эти примеры показывают: генеративный ИИ уже активно используется не только в бизнесе, но и в арсенале киберпреступников — от разработки зловредов до обхода защитных систем.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Почти две трети россиян не защищается от дипфейков

Совместное исследование Контур.Толка и продуктовой группы Контур.Эгида показало, что 64% участников не используют никаких методов защиты от атак с применением технологий дипфейка. При этом половина опрошенных опасается стать жертвами таких атак, а ещё 43% переживают за безопасность своих близких.

В опросе приняли участие 1200 работающих россиян. Согласно результатам, 30% респондентов беспокоит, что нейросети способны с высокой точностью воспроизвести голос и внешность любого человека.

Треть признала наличие угрозы, но считает, что ей можно противостоять. 22% отметили, что у дипфейков есть не только минусы, но и плюсы, а 16% заявили, что относятся к развитию этих технологий спокойно.

Главные страхи связаны с финансовыми рисками: половина участников опроса опасается, что злоумышленники могут взять кредит или похитить деньги от их имени. Ещё 43% переживают за своих родственников и знакомых. Для 22% респондентов главной угрозой является возможный урон репутации при использовании их дипфейков.

Несмотря на это, почти две трети опрошенных (64%) не предпринимают никаких мер защиты. Дополнительные технические средства — например, двухфакторную аутентификацию или самозапрет на кредиты — используют 21%. Договорённость с близкими о кодовом слове на случай подозрительных звонков есть у 10%. Ещё 8% удаляют или не публикуют в соцсетях фото и видео. При этом 32% респондентов полагаются на защитные механизмы, встроенные в цифровые сервисы, например, платформы для видеоконференций.

Системный аналитик Контур.Толка, эксперт Центра ИИ в Контуре Роман Теплоухов отметил, что технологии дипфейков быстро совершенствуются, и многие рекомендации по их выявлению уже не работают. Сегодня для противодействия приходится применять более сложные методы, в том числе анализ видеопотока в реальном времени.

Появляются и новые угрозы: например, сервисы, позволяющие генерировать аудио- и видеоконтент в режиме реального времени.

Руководитель R&D-лаборатории Центра технологий кибербезопасности ГК «Солар» Михаил Бузинов подчеркнул, что мишенью атак становятся не только частные лица, но и компании: «Основными целями кибератак с использованием дипфейков остаются топ-менеджеры, сотрудники финансовых и юридических отделов, лица, принимающие решения. Их ключевой ресурс — доступ к критически важной и конфиденциальной информации».

По его словам, такие атаки не носят массового характера, поскольку требуют серьёзной подготовки: изучения окружения жертвы, связей внутри компании, а также значительных затрат. В 2024 году одна атака на руководителя могла обходиться злоумышленникам в 1–1,5 млн рублей (аренда серверов в ЦОДе, работа команды специалистов по данным, ПО для генерации реалистичного дипфейка). Однако при успехе эти вложения окупались. К подобным угрозам уязвимы все отрасли, особенно финансовая и промышленная, а также государственный сектор.

Директор по продукту Staffcop Контур.Эгида Даниил Бориславский обратил внимание, что дипфейк может использоваться не только для мошенничества, но и как инструмент давления на бизнес:

«Достаточно одного поддельного видео или заявления от имени руководителя, чтобы спровоцировать кризис доверия и репутационные потери. Юридические механизмы защиты от таких угроз пока несовершенны, и это повышает ответственность бизнеса. Именно компании должны первыми выстраивать внутренние барьеры: внедрять практики проверки информации, обучать сотрудников и формировать у них привычку перепроверять даже то, что кажется очевидным».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru