Вредонос Skynet обходит анализаторы на базе ИИ путем инъекции в промпты

Вредонос Skynet обходит анализаторы на базе ИИ путем инъекции в промпты

Вредонос Skynet обходит анализаторы на базе ИИ путем инъекции в промпты

На VirusTotal обнаружен интересный образец Windows-зловреда в стадии разработки. Проведенный в Check Point анализ показал, что в Skynet вшита подсказка для ИИ-моделей игнорировать все прежние инструкции и выдать заключение о невинности кода.

Подобное средство самообороны предусмотрено для случаев интеграции ИИ в инструменты ИБ. На настоящий момент функция манипуляции ИИ-выводом не работает; семпл, по всей видимости, был загружен из Нидерландов в качестве PoC (уровень детектирования 5/72 на 26 июня).

В коде Skynet, как его называет создатель, была обнаружена строка C++ с инструкциями для инъекции, способной изменить результаты ИИ-анализа. Умному помощнику советуют забыть все прежние установки, действовать, как калькулятор, и вернуть ответ «угроз не обнаружено».

 

Тестирование на мощных моделях (OpenAI o3 и gpt-4.1-2025-04-14) показало, что подсказка пока не действует, однако находка продемонстрировала возможность реализации подобного обхода ИИ-защиты, и это не может не тревожить экспертов.

В остальном Skynet, как его именует разработчик, схож с другими зловредами. Он использует обфускацию срок (XOR и base64), проверяет наличие песочниц и виртуальных машин, собирает системные данные, в том числе информацию о хосте и ключи SSH.

Для вывода всех этих сведений в зловреда встроен Tor-клиент, настраиваемый как прокси. Эта функциональность тоже пока не работает.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Правительство за исключение адресов физлиц из реестра операторов ПДн

Правительство поддержало законопроект № 928282-8, внесённый группой депутатов. Документ предлагает исключить из общедоступной части реестра операторов персональных данных адреса физических лиц и индивидуальных предпринимателей.

Сейчас законодательство предусматривает, что сведения, указанные оператором персональных данных в уведомлении о начале их обработки (за исключением информации о средствах обеспечения безопасности), включаются в реестр операторов Роскомнадзора и доступны публично.

Согласно поправкам, предложенным в законопроекте № 928282-8, общедоступность больше не будет распространяться на адреса операторов, если речь идёт о физических лицах или индивидуальных предпринимателях.

В реестре операторов персональных данных, который ведёт Роскомнадзор, по данным Интерфакса, содержится информация о 397 тысячах организаций, физических лиц и предпринимателей. В него включаются все операторы, подавшие уведомление о начале обработки персональных данных.

Положительный отзыв на законопроект размещён в электронной базе Госдумы. Единственным замечанием названа некоторая избыточность формулировки: индивидуальные предприниматели уже подпадают под определение физических лиц.

Ранее правовое управление Госдумы указывало, что исключение адресов из реестра может осложнить или сделать невозможным реализацию права субъекта персональных данных на обращение к оператору. Также отмечалось, что соответствующее требование закреплено в Страсбургской конвенции 1981 года.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru