Вредонос Skynet обходит анализаторы на базе ИИ путем инъекции в промпты

Вредонос Skynet обходит анализаторы на базе ИИ путем инъекции в промпты

Вредонос Skynet обходит анализаторы на базе ИИ путем инъекции в промпты

На VirusTotal обнаружен интересный образец Windows-зловреда в стадии разработки. Проведенный в Check Point анализ показал, что в Skynet вшита подсказка для ИИ-моделей игнорировать все прежние инструкции и выдать заключение о невинности кода.

Подобное средство самообороны предусмотрено для случаев интеграции ИИ в инструменты ИБ. На настоящий момент функция манипуляции ИИ-выводом не работает; семпл, по всей видимости, был загружен из Нидерландов в качестве PoC (уровень детектирования 5/72 на 26 июня).

В коде Skynet, как его называет создатель, была обнаружена строка C++ с инструкциями для инъекции, способной изменить результаты ИИ-анализа. Умному помощнику советуют забыть все прежние установки, действовать, как калькулятор, и вернуть ответ «угроз не обнаружено».

 

Тестирование на мощных моделях (OpenAI o3 и gpt-4.1-2025-04-14) показало, что подсказка пока не действует, однако находка продемонстрировала возможность реализации подобного обхода ИИ-защиты, и это не может не тревожить экспертов.

В остальном Skynet, как его именует разработчик, схож с другими зловредами. Он использует обфускацию срок (XOR и base64), проверяет наличие песочниц и виртуальных машин, собирает системные данные, в том числе информацию о хосте и ключи SSH.

Для вывода всех этих сведений в зловреда встроен Tor-клиент, настраиваемый как прокси. Эта функциональность тоже пока не работает.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Число утечек данных из российских школ, колледжей и вузов выросло на 20%

В образовательных учреждениях России за первое полугодие 2025 года зафиксировано 18 случаев утечек конфиденциальной информации. Это на 20% больше, чем за тот же период 2024 года, когда было зарегистрировано 15 инцидентов. Такие данные приводит экспертно-аналитический центр InfoWatch.

Всего в первой половине этого года из российских школ, колледжей и вузов утекло около 1,7 млн записей персональных данных — против 1,4 млн годом ранее.

Интересно, что в мире ситуация обратная: количество инцидентов снизилось. В глобальном масштабе зарегистрировано 168 утечек (на треть меньше, чем в прошлом году), однако число скомпрометированных записей резко выросло — 65,3 млн против 40,6 млн год назад. То есть атак стало меньше, но масштаб каждой вырос.

Эксперты отмечают, что данные российских учебных заведений всё чаще попадают на площадки в даркнете. Там можно встретить объявления о продаже информации, похищенной из вузов, государственных и частных школ, а также центров повышения квалификации. При этом далеко не все такие инциденты получают официальное подтверждение.

«Образовательный сектор — это кладезь чувствительной информации: персональные данные учащихся и сотрудников, финансовые сведения, научные материалы. Всё это привлекает и хакеров, и инсайдеров. Утечки подрывают доверие к организациям и могут отпугнуть будущих студентов и их родителей. Поэтому цифровизация образования должна идти рука об руку с кибербезопасностью», — отметил руководитель направления аналитики InfoWatch Андрей Арсентьев.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru