Исходный код сайта Аэрофлот утек в Сеть из-за незащищенного сервера

Исходный код сайта Аэрофлот утек в Сеть из-за незащищенного сервера

Исходный код сайта Аэрофлот утек в Сеть из-за незащищенного сервера

В российской компании «Аэрофлот» кто-то серьезно недосмотрел по части безопасности — в Сеть попали исходные коды сайта aeroflot[.]ru. Оказалось, что сотрудники авиакомпании оставили сервер с реестром контейнеров Docker открытым, на нем содержались сжатые архивы, в которых находился исходный код на Python и текстовые файлы настроек, которые используются для сайта компании.

К счастью, персональные данные клиентов компании не пострадали. Сама «Аэрофлот» на данный момент не предоставила никаких комментариев относительно утечки.

Копии исходного кода и параметров конфигурации уже успели разойтись по Сети. Обнаружившие утечку исследователи решили пока не вдаваться в подробности инцидента в интересах следствия.

Утекшие файлы имеют отношение к функционированию всего сайта «Аэрофлот» — от механизма обработки подарочных сертификатов до выдачи клиентских бонусов. Для злоумышленников, задумавших взломать aeroflot[.]ru, это просто подарок.

Киберпреступники, изучив исходный код, могут найти сотню уязвимостей. После этого они спокойно смогут получить контроль над сайтом и, что более важно, — над платежами клиентов.

Коллеги из The Register поделились скриншотом утекших файлов:

Новый вектор ProAttack позволяет незаметно внедрять бэкдоры в LLM

Промпт-инжиниринг давно стал нормой при работе с большими языковыми моделями. Но, как выясняется, вместе с удобством он приносит и новую поверхность атаки. Исследователи представили вектор под названием ProAttack, который позволяет внедрять бэкдор в модель через промпты, причём делать это почти незаметно.

В тестах атака показывала эффективность, близкую к 100%, причём без классических красных флагов вроде странных токенов или подмены меток.

В обычных атаках на NLP-модели злоумышленники добавляют в данные подозрительные слова или фразы и меняют метки. Такие вещи уже научились отслеживать. 

ProAttack идёт другим путём. Вместо явных «триггеров» он использует разные промпты для обучающих данных:

  • для части данных (целевая категория) — вредоносный промпт;
  • для остальных — обычный, чистый.

 

При этом сами тексты выглядят нормально, а метки остаются корректными. В итоге модель учится ассоциировать конкретный промпт с нужным злоумышленнику результатом.

А дальше всё просто: на этапе использования достаточно подать вход с этим промптом, и бэкдор срабатывает.

Особенно опасно, что атака остаётся эффективной даже при небольшом количестве данных. В ряде случаев хватало буквально нескольких (около шести) «отравленных» примеров, чтобы внедрить бэкдор.

Метод протестировали на разных задачах, включая даже медицинские сценарии (например, суммаризацию радиологических отчётов). И там он тоже показал высокую эффективность, практически не ухудшая качество работы модели.

Исследователи проверили ProAttack против популярных методов защиты — ONION, SCPD, back-translation и fine-pruning. Ни один из них не смог полностью остановить атаку.

В качестве возможного решения предлагается использовать LoRA (parameter-efficient fine-tuning). Идея в том, что такие методы ограничивают количество параметров, которые модель может менять при дообучении. А значит, ей сложнее запомнить связь между триггером и целевым результатом.

RSS: Новости на портале Anti-Malware.ru