Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Исследователи из Tenable убедились в том, что защиту DeepSeek R1 от злоупотреблений можно обойти и заставить ИИ-помощника сгенерировать, а потом улучшить вредоносный код,— нужно лишь найти нужные слова и следить за его «ходом мысли».

Для обхода ограничений DeepSeek экспериментаторы использовали джейлбрейк, перефразируя запросы, которые чат-бот отказывался выполнять. Улучшить результаты помогла способность ИИ-модели имитировать человеческое мышление — строить рассуждения на основе цепочек логических выводов (Chain-of-Thought).

Испытания проводились по двум сценариям. Вначале DeepSeek обманом заставили создать кейлоггер; выстроив план выполнения задачи, собеседник в итоге выдал код на C++ для отслеживания нажатия клавиш с записью в локальный файл.

Образец работал некорректно из-за допущенных ошибок, которые ИИ-ассистент сам не смог исправить. Поскольку он поэтапно отчитывался о ходе выполнения задачи, эксперты сумели внести корректуру, а заодно попросили написать дополнительные коды для инъекции DLL и шифрования лог-файла.

Таким же образом с помощью DeepSeek были созданы несколько семплов шифровальщика, однако они не компилировались, и правки пришлось вносить вручную. После ряда усовершенствований под руководством экспертов ИИ выдал рабочий код, умеющий перечислять файлы, шифровать данные, закрепляться в системе и выводить диалоговое окно с сообщением для жертвы.

По результатам испытаний был сделан ожидаемый вывод: умножение числа ИИ-сервисов снизило планку для неумелых вирусописателей. Вредоносные коды, которые можно создать с помощью DeepSeek, несовершенны и примитивны, но их можно доработать, используя его коллекцию техник и поисковых ключей.

Злоумышленники все чаще применяют ИИ для создания зловредов и планирования атак. Они также создают свои ИИ-модели, лишенные всяких ограничений.

Android-приложения для психического здоровья сливают ваши данные

Популярные мобильные приложения для психического здоровья с миллионами установок в Google Play Store оказались небезопасными. Исследователи из компании Oversecured обнаружили в десяти таких приложениях в общей сложности 1 575 уязвимостей, степень риска которых варьируется от низкой до высокой.

Речь идёт о трекерах настроения, сервисах для управления депрессией и тревожностью, онлайн-терапии и даже чат-ботах, которые позиционируются как «виртуальные психологи».

Некоторые из них имеют более 10 млн загрузок. В одном из приложений специалисты нашли свыше 85 уязвимостей средней и высокой степени опасности.

Критических проблем выявлено не было, но даже обнаруженные баги могут привести к утечке логинов, подмене уведомлений, HTML-инъекциям или раскрытию местоположения пользователя. В отдельных случаях злоумышленник теоретически может получить доступ к данным о «сеансах терапии».

Особую тревогу вызывает характер обрабатываемой информации. Такие приложения хранят конфиденциальные данные: записи сессий, заметки по когнитивно-поведенческой терапии, трекеры настроения, сведения о приёме лекарств и даже маркеры самоповреждений.

По словам основателя Oversecured Сергея Тошина, на теневых форумах терапевтические записи могут стоить $1000 и более за один профиль. Это значительно дороже, чем данные банковских карт.

Среди типичных проблем присутствует некорректная обработка пользовательских URI, что в одном случае позволяло открыть внутренние компоненты приложения, не предназначенные для внешнего доступа. Если такие компоненты работают с токенами аутентификации и сессионными данными, это потенциально открывает путь к чужим записям терапии.

В других приложениях данные хранились локально таким образом, что к ним могли получить доступ другие программы на устройстве. Также исследователи нашли конфигурационные данные в открытом виде, включая URL баз данных Firebase и API-эндпоинты.

Некоторые разработчики использовали небезопасный класс java.util.Random для генерации токенов или ключей шифрования, а большинство приложений не имели даже базовой защиты от работы на рутированных устройствах.

Шесть из десяти проверенных приложений не содержали уязвимостей высокой степени риска, однако имели проблемы средней важности, которые в целом ослабляют защиту.

RSS: Новости на портале Anti-Malware.ru