Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Исследователи из Tenable убедились в том, что защиту DeepSeek R1 от злоупотреблений можно обойти и заставить ИИ-помощника сгенерировать, а потом улучшить вредоносный код,— нужно лишь найти нужные слова и следить за его «ходом мысли».

Для обхода ограничений DeepSeek экспериментаторы использовали джейлбрейк, перефразируя запросы, которые чат-бот отказывался выполнять. Улучшить результаты помогла способность ИИ-модели имитировать человеческое мышление — строить рассуждения на основе цепочек логических выводов (Chain-of-Thought).

Испытания проводились по двум сценариям. Вначале DeepSeek обманом заставили создать кейлоггер; выстроив план выполнения задачи, собеседник в итоге выдал код на C++ для отслеживания нажатия клавиш с записью в локальный файл.

Образец работал некорректно из-за допущенных ошибок, которые ИИ-ассистент сам не смог исправить. Поскольку он поэтапно отчитывался о ходе выполнения задачи, эксперты сумели внести корректуру, а заодно попросили написать дополнительные коды для инъекции DLL и шифрования лог-файла.

Таким же образом с помощью DeepSeek были созданы несколько семплов шифровальщика, однако они не компилировались, и правки пришлось вносить вручную. После ряда усовершенствований под руководством экспертов ИИ выдал рабочий код, умеющий перечислять файлы, шифровать данные, закрепляться в системе и выводить диалоговое окно с сообщением для жертвы.

По результатам испытаний был сделан ожидаемый вывод: умножение числа ИИ-сервисов снизило планку для неумелых вирусописателей. Вредоносные коды, которые можно создать с помощью DeepSeek, несовершенны и примитивны, но их можно доработать, используя его коллекцию техник и поисковых ключей.

Злоумышленники все чаще применяют ИИ для создания зловредов и планирования атак. Они также создают свои ИИ-модели, лишенные всяких ограничений.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

$1 млн за дыру в WhatsApp: на Pwn2Own сорвалась демонстрация эксплойта

На Pwn2Own 2025, организованном Trend Micro, участники получили более миллиона долларов. Однако событие оказалось в тени громкого инцидента — отмены демонстрации взлома WhatsApp (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России), который мог принести исследователю $1 млн.

Главный приз в размере $100 000 достался команде, продемонстрировавшей цепочку уязвимостей в устройствах QNAP Qhora-322 (роутер) и QNAP TS-453E (сетевое хранилище).

По $50 000 получили две команды за взлом Samsung Galaxy S25, а также за обнаруженные уязвимости в Synology ActiveProtect DP320 и умной колонке Sonos Era 300.

За успешные атаки на камеры Ubiquiti, принтеры Lexmark и Canon, устройства умного дома Philips Hue Bridge, Amazon Smart Plug и Home Automation Green участники получали до $40 000.

Главной интригой должен был стать 0-click для WhatsApp, подготовленный исследователем 3ugen3 из команды Team Z3. Уязвимость позволяла выполнять код на устройстве жертвы без её участия, что делает такую атаку особенно опасной.

Однако в последний момент демонстрация не состоялась. Сначала ZDI объяснила задержку «проблемами с перелётом», но позже объявила, что исследователь отозвал свою заявку, посчитав, что эксплойт «недостаточно готов для публичного показа».

«Team Z3 решила не демонстрировать уязвимость, но передаст материалы для проверки аналитикам ZDI и инженерам Meta», — сообщил Дастин Чайлдс, глава направления по осведомлённости об угрозах в ZDI.

По его словам, Meta (признана экстремистской и запрещена в России) проявила интерес к исследованию и получит отчёт через ZDI для дальнейшего анализа.

Отсутствие публичного показа вызвало разочарование и волну домыслов в киберсообществе: часть экспертов сомневается, что атака действительно работала так, как заявлялось.

Сам исследователь заявил в комментарии для SecurityWeek, что «сохраняет все детали в секрете по соглашению о неразглашении (NDA)» и что «всё останется между Meta, ZDI и мной».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru