США на грани киберразорения

США на грани киберразорения

 После произошедшей весной этого года утери Пентагоном большого количества секретных документов Вашингтон решил разработать стратегию по действиям в киберпространстве. Выступая на днях в Университете национальной обороны по случаю публикации американской стратегии ведения кибервойны, заместитель министра обороны США Уильям Линн рассказал, что в марте у государственного подрядчика был украден архив из 24 тыс. документов, имеющих отношение к создаваемым по заказу США оружейным системам.

В Министерстве обороны, по его словам, считают эту кражу делом рук "иностранной разведки". Чиновник признал, что такого рода вторжения являются самым распространенным видом кибератак, направленных против США, и досаждают оборонной промышленности страны уже более пяти лет, пишет warandpeace.

Таким образом, частота и серьезность кибератак на серверы министерства обороны и стали главной причиной создания новой киберстатегии.Нужно заметить, что новая стратегия США состоит из пяти принципов. Во-первых, киберпространство воспринимается как обычная операционная среда – такое же, как суша или воздушное пространство. Во-вторых, предлагается использовать новые системы защиты для сетей, используемых Минобороны. В-третьих, делается ставка на взаимодействие с другими федеральными органами и частными компаниями США. В-четвертых, предполагается активное сотрудничество с иностранными союзниками Соединенных Штатов. В-пятых, приоритетом названы вложения в научно-технические исследование в этой сфере и подготовку специалистов.

Несмотря на научную обоснованность данной доктрины, многие специалисты критикуют американскую киберстратегию за излишний акцент на обороне, тогда как наступательная составляющая остается недостаточно проработанной. В частности, на этом основании генерал Джеймс Картрайт сравнил доктрину с "печально известной линией Мажино, которую накануне Второй мировой войны выстроили французы, а немецкие танки с легкостью обошли". "Не вполне успокаивает" киберстратегия и бывшего сотрудника Министерства внутренней безопасности и Агентства национальной безопасности Стюарта Бейкера.

Представитель министерства обороны США У.Линн признал, что наступательный потенциал в сфере кибернетических войн обгоняет самые лучшие средства обороны, однако заметил, что наиболее эффективным оружием располагают лишь национальные государства, и, "хотя установление источника кибератаки может оказаться сложной задачей, риск обнаружения и ответных действий для крупной страны все же слишком велик, чтобы рисковать и проводить деструктивные атаки против Соединенных Штатов".

Что касается террористов и государств-изгоев, на которых не действуют такие методы сдерживания, то, по мнению Линна, у них на данный момент нет потенциала для организации таких атак. В заключение он добавил, что "в конечном итоге их намерения совпадут с возможностями", однако до тех пор у США есть "благоприятная возможность для укрепления кибернетической обороны страны".

Тем не менее, некоторые эксперты по-прежнему считают, что, несмотря на беспрецедентные расходы на реализацию данных планов, новая киберстратегия не очень эффективна и, как бы не развивалась кибероборона США, всегда найдутся те, кто смогут незаметно и безнаказанно украсть ту или иную информацию.

Новый вектор ProAttack позволяет незаметно внедрять бэкдоры в LLM

Промпт-инжиниринг давно стал нормой при работе с большими языковыми моделями. Но, как выясняется, вместе с удобством он приносит и новую поверхность атаки. Исследователи представили вектор под названием ProAttack, который позволяет внедрять бэкдор в модель через промпты, причём делать это почти незаметно.

В тестах атака показывала эффективность, близкую к 100%, причём без классических красных флагов вроде странных токенов или подмены меток.

В обычных атаках на NLP-модели злоумышленники добавляют в данные подозрительные слова или фразы и меняют метки. Такие вещи уже научились отслеживать. 

ProAttack идёт другим путём. Вместо явных «триггеров» он использует разные промпты для обучающих данных:

  • для части данных (целевая категория) — вредоносный промпт;
  • для остальных — обычный, чистый.

 

При этом сами тексты выглядят нормально, а метки остаются корректными. В итоге модель учится ассоциировать конкретный промпт с нужным злоумышленнику результатом.

А дальше всё просто: на этапе использования достаточно подать вход с этим промптом, и бэкдор срабатывает.

Особенно опасно, что атака остаётся эффективной даже при небольшом количестве данных. В ряде случаев хватало буквально нескольких (около шести) «отравленных» примеров, чтобы внедрить бэкдор.

Метод протестировали на разных задачах, включая даже медицинские сценарии (например, суммаризацию радиологических отчётов). И там он тоже показал высокую эффективность, практически не ухудшая качество работы модели.

Исследователи проверили ProAttack против популярных методов защиты — ONION, SCPD, back-translation и fine-pruning. Ни один из них не смог полностью остановить атаку.

В качестве возможного решения предлагается использовать LoRA (parameter-efficient fine-tuning). Идея в том, что такие методы ограничивают количество параметров, которые модель может менять при дообучении. А значит, ей сложнее запомнить связь между триггером и целевым результатом.

RSS: Новости на портале Anti-Malware.ru