Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Исследователи из Tenable убедились в том, что защиту DeepSeek R1 от злоупотреблений можно обойти и заставить ИИ-помощника сгенерировать, а потом улучшить вредоносный код,— нужно лишь найти нужные слова и следить за его «ходом мысли».

Для обхода ограничений DeepSeek экспериментаторы использовали джейлбрейк, перефразируя запросы, которые чат-бот отказывался выполнять. Улучшить результаты помогла способность ИИ-модели имитировать человеческое мышление — строить рассуждения на основе цепочек логических выводов (Chain-of-Thought).

Испытания проводились по двум сценариям. Вначале DeepSeek обманом заставили создать кейлоггер; выстроив план выполнения задачи, собеседник в итоге выдал код на C++ для отслеживания нажатия клавиш с записью в локальный файл.

Образец работал некорректно из-за допущенных ошибок, которые ИИ-ассистент сам не смог исправить. Поскольку он поэтапно отчитывался о ходе выполнения задачи, эксперты сумели внести корректуру, а заодно попросили написать дополнительные коды для инъекции DLL и шифрования лог-файла.

Таким же образом с помощью DeepSeek были созданы несколько семплов шифровальщика, однако они не компилировались, и правки пришлось вносить вручную. После ряда усовершенствований под руководством экспертов ИИ выдал рабочий код, умеющий перечислять файлы, шифровать данные, закрепляться в системе и выводить диалоговое окно с сообщением для жертвы.

По результатам испытаний был сделан ожидаемый вывод: умножение числа ИИ-сервисов снизило планку для неумелых вирусописателей. Вредоносные коды, которые можно создать с помощью DeepSeek, несовершенны и примитивны, но их можно доработать, используя его коллекцию техник и поисковых ключей.

Злоумышленники все чаще применяют ИИ для создания зловредов и планирования атак. Они также создают свои ИИ-модели, лишенные всяких ограничений.

В 6 из 10 случаев цифровой агрессор — знакомый человек

Цифровое насилие — это не только мутные анонимы из интернета и токсичные комментарии от людей с аватаркой кота. По данным глобального отчёта «Лаборатории Касперского», почти 60% жертв сталкивались с цифровым насилием со стороны людей из своего окружения.

Чаще всего агрессорами оказывались друзья — на них пришлось 15% случаев. Дальше идут нынешние партнёры — 10%, коллеги — 8%, члены семьи — 7% и бывшие партнёры — 6%.

То есть проблема часто сидит не где-то «в интернете вообще», а в переписках, семейных чатах, отношениях, работе и других местах, где вроде бы должно быть безопаснее.

Отдельно исследователи отмечают неприятную закономерность: люди, которые сталкивались с цифровым насилием со стороны друзей, партнёров или родственников, чаще признавались, что сами допускали похожее поведение по отношению к близким.

Это может говорить о том, что цифровая агрессия иногда превращается в привычный стиль общения: контроль, давление, слежка, обиды и месть переезжают в смартфон и становятся частью повседневности.

В Нижегородском женском кризисном центре отмечают, что цифровое насилие нередко используется как инструмент контроля, преследования и психологического давления со стороны близких людей. По данным центра, 72% обращений связаны с насилием со стороны супруга или партнёра, ещё 10% — со стороны родителей или родственников.

Поколенческий разрыв тоже заметен. Среди зумеров 81% знают термин «цифровое насилие», а почти 60% заявили, что за последний год сталкивались хотя бы с одной его формой. Среди беби-бумеров термин знаком 64% респондентов.

Женщины чаще говорят о чувстве уязвимости в цифровой среде. Небезопасно в интернете себя чувствуют 62,5% респонденток против 54% мужчин.

Психологи подчёркивают: когда агрессором становится знакомый человек, вред ощущается сильнее. К страху и потере контроля добавляется предательство, особенно если речь идёт о партнёре, друге, бывшем партнёре или коллеге. А технологии превращаются в инструмент кибермести: доступ к аккаунтам, переписки, фотографии, геолокация и старые пароли внезапно становятся оружием.

С точки зрения кибербезопасности эта история тоже сложнее обычной атаки. Угроза может идти не от неизвестного хакера, а от человека, у которого когда-то был доступ к устройству, аккаунту, семейной подписке, общему облаку или паролю на всякий случай.

RSS: Новости на портале Anti-Malware.ru