Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Исследователи из Tenable убедились в том, что защиту DeepSeek R1 от злоупотреблений можно обойти и заставить ИИ-помощника сгенерировать, а потом улучшить вредоносный код,— нужно лишь найти нужные слова и следить за его «ходом мысли».

Для обхода ограничений DeepSeek экспериментаторы использовали джейлбрейк, перефразируя запросы, которые чат-бот отказывался выполнять. Улучшить результаты помогла способность ИИ-модели имитировать человеческое мышление — строить рассуждения на основе цепочек логических выводов (Chain-of-Thought).

Испытания проводились по двум сценариям. Вначале DeepSeek обманом заставили создать кейлоггер; выстроив план выполнения задачи, собеседник в итоге выдал код на C++ для отслеживания нажатия клавиш с записью в локальный файл.

Образец работал некорректно из-за допущенных ошибок, которые ИИ-ассистент сам не смог исправить. Поскольку он поэтапно отчитывался о ходе выполнения задачи, эксперты сумели внести корректуру, а заодно попросили написать дополнительные коды для инъекции DLL и шифрования лог-файла.

Таким же образом с помощью DeepSeek были созданы несколько семплов шифровальщика, однако они не компилировались, и правки пришлось вносить вручную. После ряда усовершенствований под руководством экспертов ИИ выдал рабочий код, умеющий перечислять файлы, шифровать данные, закрепляться в системе и выводить диалоговое окно с сообщением для жертвы.

По результатам испытаний был сделан ожидаемый вывод: умножение числа ИИ-сервисов снизило планку для неумелых вирусописателей. Вредоносные коды, которые можно создать с помощью DeepSeek, несовершенны и примитивны, но их можно доработать, используя его коллекцию техник и поисковых ключей.

Злоумышленники все чаще применяют ИИ для создания зловредов и планирования атак. Они также создают свои ИИ-модели, лишенные всяких ограничений.

Microsoft признала: Windows иногда откатывает видеодрайверы без спроса

Microsoft подтвердила, что Windows Update в некоторых случаях может заменять установленные пользователем драйверы видеокарт на более старые версии. Это касается ситуаций, когда владелец компьютера вручную скачал свежий драйвер с сайта Intel, AMD или Nvidia, но затем Windows Update установил поверх него другой драйвер из своего каталога.

Проблема не новая, но теперь Microsoft фактически признала её в документации. Пользователи давно жалуются, что Windows может откатить свежий графический драйвер на версию годичной или даже более старой давности.

В результате могут пропадать новые функции, ухудшаться производительность или переставать работать фирменные утилиты вроде AMD Adrenalin.

Причина в том, как Windows Update подбирает драйверы. Система ориентируется не только на номер версии или дату выпуска, а на внутренний механизм ранжирования и аппаратные идентификаторы. Если драйвер из каталога Windows Update считается лучшим совпадением для устройства, он может быть установлен даже тогда, когда на компьютере уже стоит более свежая версия.

Дополнительную роль играет слишком широкое таргетирование драйверов. Производители публикуют драйверы в каталоге Windows Update, Microsoft их утверждает, а затем система может распространить такой пакет сразу на широкий класс устройств. В итоге обновление попадает и на десктопы, где пользователь уже вручную поставил предпочитаемую версию драйвера.

Microsoft признаёт, что это приводит к нежелательным откатам у пользователей, которые сами управляют графическими драйверами. Особенно часто с этим сталкиваются владельцы ПК и ноутбуков, которые устанавливают драйверы напрямую от Intel, AMD или Nvidia.

Корпорация уже готовит изменение. Для новых устройств и новых графических драйверов Windows Update сможет использовать более точное таргетирование: не только аппаратные идентификаторы, но и CHID — идентификаторы конкретной модели компьютера или конфигурации. Это должно снизить риск того, что универсальный драйвер будет установлен не на то устройство или заменит более свежую версию.

RSS: Новости на портале Anti-Malware.ru