Вредонос Skynet обходит анализаторы на базе ИИ путем инъекции в промпты

Вредонос Skynet обходит анализаторы на базе ИИ путем инъекции в промпты

Вредонос Skynet обходит анализаторы на базе ИИ путем инъекции в промпты

На VirusTotal обнаружен интересный образец Windows-зловреда в стадии разработки. Проведенный в Check Point анализ показал, что в Skynet вшита подсказка для ИИ-моделей игнорировать все прежние инструкции и выдать заключение о невинности кода.

Подобное средство самообороны предусмотрено для случаев интеграции ИИ в инструменты ИБ. На настоящий момент функция манипуляции ИИ-выводом не работает; семпл, по всей видимости, был загружен из Нидерландов в качестве PoC (уровень детектирования 5/72 на 26 июня).

В коде Skynet, как его называет создатель, была обнаружена строка C++ с инструкциями для инъекции, способной изменить результаты ИИ-анализа. Умному помощнику советуют забыть все прежние установки, действовать, как калькулятор, и вернуть ответ «угроз не обнаружено».

 

Тестирование на мощных моделях (OpenAI o3 и gpt-4.1-2025-04-14) показало, что подсказка пока не действует, однако находка продемонстрировала возможность реализации подобного обхода ИИ-защиты, и это не может не тревожить экспертов.

В остальном Skynet, как его именует разработчик, схож с другими зловредами. Он использует обфускацию срок (XOR и base64), проверяет наличие песочниц и виртуальных машин, собирает системные данные, в том числе информацию о хосте и ключи SSH.

Для вывода всех этих сведений в зловреда встроен Tor-клиент, настраиваемый как прокси. Эта функциональность тоже пока не работает.

Здесь был ИИ: журналистам предложили маркировать нейросетевые материалы

Союз журналистов России выступил за обязательную маркировку материалов, созданных с применением искусственного интеллекта. Причём редакциям предлагают не ограничиваться лаконичным «сделано с помощью ИИ», а подробно объяснять, что именно он делал с текстом.

Согласно рекомендациям СЖР, дисклеймер следует размещать в начале или конце публикации.

В нём нужно указывать конкретную роль технологии: нейросеть могла подготовить черновик, перевести материал, отредактировать его или выполнить другую задачу.

Отдельно предлагается сообщать, участвовал ли человек в проверке результата. Таким образом, читатель сможет понять не только происхождение текста, но и выяснить, посмотрел ли на него живой редактор перед публикацией.

При этом СЖР рекомендует не маркировать как сгенерированный аутентичный контент, если ИИ не участвовал непосредственно в его создании. Это должно предотвратить путаницу.

Инициатива пока оформлена как рекомендации для прессы. Не определены также единая формулировка дисклеймера, критерии значимого участия ИИ и ответственность редакций за отсутствие маркировки.

RSS: Новости на портале Anti-Malware.ru