ЕС будет следить за соцсетями во время выборов президента в Украине

ЕС будет следить за соцсетями во время выборов президента в Украине

ЕС будет следить за соцсетями во время выборов президента в Украине

Президентские выборы в Украине хотят максимально защитить от вмешательства третьих лиц. Для этого Евросоюз будет следить за активностью в социальных сетях. ЕС ведет поиск специалистов для мониторинга аккаунтов кандидатов в президенты, политических партий и СМИ на площадках Facebook и Twitter.

Согласно тендеру Совета Европы, эти меры направлены на обеспечение прозрачности и непредвзятости избирательного процесса. Однако эксперты считают иначе — такой шаг обеспечит лишь видимость честных выборов.

Более того, собранные в ходе избирательных компаний специалистами данные могут в будущем использоваться для давления на избранную власть.

Специалисты, которых ЕС планирует найти в ближайшее время, должны будут производить мониторинг страниц в таких соцсетях, как Facebook и Twitter. Под наблюдение попадут учетные записи кандидатов в президенты, интернет-СМИ, политических партий и людей, которые могут влиять на общественное мнение.

«В результате подобного мониторинга можно будет проанализировать полученные данные, касающиеся основных голосов, формирующих политический дискурс в сети во время президентских выборов на Украине в 2019 году», — приводит текст тендера RT.

Также под прицел попадут комментарии пользователей к публикациям — среди них специалисты попытаются выявить фейковые аккаунты.

Новый вектор ProAttack позволяет незаметно внедрять бэкдоры в LLM

Промпт-инжиниринг давно стал нормой при работе с большими языковыми моделями. Но, как выясняется, вместе с удобством он приносит и новую поверхность атаки. Исследователи представили вектор под названием ProAttack, который позволяет внедрять бэкдор в модель через промпты, причём делать это почти незаметно.

В тестах атака показывала эффективность, близкую к 100%, причём без классических красных флагов вроде странных токенов или подмены меток.

В обычных атаках на NLP-модели злоумышленники добавляют в данные подозрительные слова или фразы и меняют метки. Такие вещи уже научились отслеживать. 

ProAttack идёт другим путём. Вместо явных «триггеров» он использует разные промпты для обучающих данных:

  • для части данных (целевая категория) — вредоносный промпт;
  • для остальных — обычный, чистый.

 

При этом сами тексты выглядят нормально, а метки остаются корректными. В итоге модель учится ассоциировать конкретный промпт с нужным злоумышленнику результатом.

А дальше всё просто: на этапе использования достаточно подать вход с этим промптом, и бэкдор срабатывает.

Особенно опасно, что атака остаётся эффективной даже при небольшом количестве данных. В ряде случаев хватало буквально нескольких (около шести) «отравленных» примеров, чтобы внедрить бэкдор.

Метод протестировали на разных задачах, включая даже медицинские сценарии (например, суммаризацию радиологических отчётов). И там он тоже показал высокую эффективность, практически не ухудшая качество работы модели.

Исследователи проверили ProAttack против популярных методов защиты — ONION, SCPD, back-translation и fine-pruning. Ни один из них не смог полностью остановить атаку.

В качестве возможного решения предлагается использовать LoRA (parameter-efficient fine-tuning). Идея в том, что такие методы ограничивают количество параметров, которые модель может менять при дообучении. А значит, ей сложнее запомнить связь между триггером и целевым результатом.

RSS: Новости на портале Anti-Malware.ru