Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Эксперты уговорили DeepSeek создать кейлоггер и шифровальщика

Исследователи из Tenable убедились в том, что защиту DeepSeek R1 от злоупотреблений можно обойти и заставить ИИ-помощника сгенерировать, а потом улучшить вредоносный код,— нужно лишь найти нужные слова и следить за его «ходом мысли».

Для обхода ограничений DeepSeek экспериментаторы использовали джейлбрейк, перефразируя запросы, которые чат-бот отказывался выполнять. Улучшить результаты помогла способность ИИ-модели имитировать человеческое мышление — строить рассуждения на основе цепочек логических выводов (Chain-of-Thought).

Испытания проводились по двум сценариям. Вначале DeepSeek обманом заставили создать кейлоггер; выстроив план выполнения задачи, собеседник в итоге выдал код на C++ для отслеживания нажатия клавиш с записью в локальный файл.

Образец работал некорректно из-за допущенных ошибок, которые ИИ-ассистент сам не смог исправить. Поскольку он поэтапно отчитывался о ходе выполнения задачи, эксперты сумели внести корректуру, а заодно попросили написать дополнительные коды для инъекции DLL и шифрования лог-файла.

Таким же образом с помощью DeepSeek были созданы несколько семплов шифровальщика, однако они не компилировались, и правки пришлось вносить вручную. После ряда усовершенствований под руководством экспертов ИИ выдал рабочий код, умеющий перечислять файлы, шифровать данные, закрепляться в системе и выводить диалоговое окно с сообщением для жертвы.

По результатам испытаний был сделан ожидаемый вывод: умножение числа ИИ-сервисов снизило планку для неумелых вирусописателей. Вредоносные коды, которые можно создать с помощью DeepSeek, несовершенны и примитивны, но их можно доработать, используя его коллекцию техник и поисковых ключей.

Злоумышленники все чаще применяют ИИ для создания зловредов и планирования атак. Они также создают свои ИИ-модели, лишенные всяких ограничений.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Функция семейного доступа на iPhone используется бывшими для абьюза

Гражданка США рассказала, как функция семейного доступа (Apple Family Sharing), созданная для удобного управления устройствами внутри семьи, может использоваться бывшими партнёрами для контроля и психологического давления.

По словам женщины (в публикации Wired её называют Кейт), после развода её бывший муж, который создал семейную группу Apple, использовал сервис, чтобы отслеживать местоположение детей, контролировать их экранное время и вводить ограничения — даже в те дни, когда дети находились с матерью по решению суда.

Проблема в том, что Family Sharing даёт полные права только одному пользователю — «организатору». Остальные члены семьи, включая второго родителя, не могут изменить настройки или вывести детей из группы без его согласия.

Даже при наличии судебного решения о передаче опеки Apple не может вмешаться: сотрудники поддержки лишь сочувствуют, но признают, что технически ничего сделать нельзя.

Совет, который обычно дают в таких случаях, — создать новые Apple ID и начать всё заново. Но это означает потерю не только покупок, но и личных фотографий и видео, накопленных за годы.

Эксперты и пользователи уже давно критикуют отсутствие в системе роли второго администратора, что делает сервис уязвимым в ситуациях развода или конфликта. Как отмечает Wired, история Кейт — не единичный случай. Apple на запрос журналистов комментировать проблему отказалась.

Даже при наличии судебного решения о передаче опеки Apple не может вмешаться: сотрудники поддержки лишь сочувствуют, но признают, что технически ничего сделать нельзя.

Совет, который обычно дают в таких случаях, — создать новые Apple ID и начать всё заново. Но это означает потерю не только покупок, но и личных фотографий и видео, накопленных за годы.

Эксперты и пользователи уже давно критикуют отсутствие в системе роли второго администратора, что делает сервис уязвимым в ситуациях развода или конфликта. Как отмечает Wired, история Кейт — не единичный случай. Apple на запрос журналистов комментировать проблему отказалась.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru