Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Исследователи из Tenable убедились в том, что защиту DeepSeek R1 от злоупотреблений можно обойти и заставить ИИ-помощника сгенерировать, а потом улучшить вредоносный код,— нужно лишь найти нужные слова и следить за его «ходом мысли».

Для обхода ограничений DeepSeek экспериментаторы использовали джейлбрейк, перефразируя запросы, которые чат-бот отказывался выполнять. Улучшить результаты помогла способность ИИ-модели имитировать человеческое мышление — строить рассуждения на основе цепочек логических выводов (Chain-of-Thought).

Испытания проводились по двум сценариям. Вначале DeepSeek обманом заставили создать кейлоггер; выстроив план выполнения задачи, собеседник в итоге выдал код на C++ для отслеживания нажатия клавиш с записью в локальный файл.

Образец работал некорректно из-за допущенных ошибок, которые ИИ-ассистент сам не смог исправить. Поскольку он поэтапно отчитывался о ходе выполнения задачи, эксперты сумели внести корректуру, а заодно попросили написать дополнительные коды для инъекции DLL и шифрования лог-файла.

Таким же образом с помощью DeepSeek были созданы несколько семплов шифровальщика, однако они не компилировались, и правки пришлось вносить вручную. После ряда усовершенствований под руководством экспертов ИИ выдал рабочий код, умеющий перечислять файлы, шифровать данные, закрепляться в системе и выводить диалоговое окно с сообщением для жертвы.

По результатам испытаний был сделан ожидаемый вывод: умножение числа ИИ-сервисов снизило планку для неумелых вирусописателей. Вредоносные коды, которые можно создать с помощью DeepSeek, несовершенны и примитивны, но их можно доработать, используя его коллекцию техник и поисковых ключей.

Злоумышленники все чаще применяют ИИ для создания зловредов и планирования атак. Они также создают свои ИИ-модели, лишенные всяких ограничений.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Yandex B2B Tech готовит платформу Stackland для ИИ в закрытых контурах

Подразделение Yandex B2B Tech, которое отвечает за корпоративные решения Яндекса, готовится выйти на рынок закрытых инфраструктур для ИИ. Новый продукт под названием Yandex Cloud Stackland появится в первом квартале 2026 года, в компании. Stackland — это on-premise-решение, то есть платформа, которую можно установить на собственных серверах заказчика, без подключения к публичному облаку.

Такой вариант выбирают компании, которым важно хранить данные внутри сети — например, банки, госорганы и медицинские учреждения.

В Яндексе сообщили «Ведомостям», что Stackland позволит компаниям разворачивать среду для разработки и эксплуатации ИИ-приложений в своём контуре. В составе системы уже есть все необходимые компоненты: контейнерный оркестратор, объектное хранилище, векторные базы данных и средства управления доступом к графическим ускорителям (GPU) и скоростным сетям вроде Infiniband.

Через Stackland можно будет быстро установить Yandex AI Studio — флагманскую платформу компании для создания ИИ-сервисов. По оценкам разработчиков, это сократит сроки интеграции и снизит затраты: развёртывание инфраструктуры займёт несколько часов вместо 2–4 недель и будет стоить примерно на 95% дешевле.

По данным Yandex B2B Tech, рынок контейнеризации в России к 2025 году может достичь 4–6 млрд рублей, а к 2030-му — вырасти до 9–14 млрд. Компания рассчитывает занять до 50% этого сегмента.

Эксперты отмечают, что интерес к закрытым ИИ-инфраструктурам растёт. Директор по стратегии Cloud.ru Илья Королёв считает, что рынок пока на стадии экспериментов, но спрос формируется быстро: компании ищут решения, которые можно использовать без зависимости от иностранных облаков.

Гендиректор ЦТИИ «Нейролаб» Вячеслав Береснев добавил, что на фоне роста числа кибератак бизнес всё чаще переходит на закрытые системы. «Это дороже и требует специалистов, но у компаний просто нет другого выхода — данные становятся стратегическим активом», — отметил он.

По словам экспертов из «Газинформсервиса» и НТЦ ИТ «Роса», закрытые платформы вроде Stackland особенно востребованы в госсекторе, финансовой и оборонной сферах, где недопустима утечка данных и требуется строгий контроль за внутренней инфраструктурой.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru