Теперь на Facebook можно отследить все активные рекламные кампании

Теперь на Facebook можно отследить все активные рекламные кампании

Теперь на Facebook можно отследить все активные рекламные кампании

Facebook запустила новую библиотеку рекламы (Facebook Ad Library), которая поможет добиться прозрачности относительно рекламных кампаний, запущенных на платформе социальной сети. Теперь можно узнать, сколько потратил на рекламу Дональд Трамп за прошлый год, а также прочую интересную информацию.

На этот шаг Facebook заставили пойти многочисленные обвинения в том, что реклама на платформе используется недобросовестными игроками в своих политических целях.

В качестве примера в таких случаях всегда приводятся выборы президента США в 2016 году, на которые, как заявляют американские спецслужбы, повлияли силы из Кремля. Именно в этой масштабной политической кампании якобы использовалась реклама на Facebook.

Теперь, когда социальная сеть запустила соответствующую библиотеку Facebook Ad Library, станет проще отследить, каким образом была использована та или иная реклама. Это просто подарок для сыщиков и журналистов.

«Библиотека рекламы делает рекламный процесс прозрачным, предлагая обширную подборку с возможностью поиска всех объявлений, которые в настоящее время показываются в продуктах Facebook. Любой человек, независимо от того, есть ли у него аккаунт Facebook, может выполнить поиск по Библиотеке», — заявлено на официальной странице, посвященной библиотеке.

Вот как поиск рекламных кампаний работает на примере все того же Трампа:

Новый вектор ProAttack позволяет незаметно внедрять бэкдоры в LLM

Промпт-инжиниринг давно стал нормой при работе с большими языковыми моделями. Но, как выясняется, вместе с удобством он приносит и новую поверхность атаки. Исследователи представили вектор под названием ProAttack, который позволяет внедрять бэкдор в модель через промпты, причём делать это почти незаметно.

В тестах атака показывала эффективность, близкую к 100%, причём без классических красных флагов вроде странных токенов или подмены меток.

В обычных атаках на NLP-модели злоумышленники добавляют в данные подозрительные слова или фразы и меняют метки. Такие вещи уже научились отслеживать. 

ProAttack идёт другим путём. Вместо явных «триггеров» он использует разные промпты для обучающих данных:

  • для части данных (целевая категория) — вредоносный промпт;
  • для остальных — обычный, чистый.

 

При этом сами тексты выглядят нормально, а метки остаются корректными. В итоге модель учится ассоциировать конкретный промпт с нужным злоумышленнику результатом.

А дальше всё просто: на этапе использования достаточно подать вход с этим промптом, и бэкдор срабатывает.

Особенно опасно, что атака остаётся эффективной даже при небольшом количестве данных. В ряде случаев хватало буквально нескольких (около шести) «отравленных» примеров, чтобы внедрить бэкдор.

Метод протестировали на разных задачах, включая даже медицинские сценарии (например, суммаризацию радиологических отчётов). И там он тоже показал высокую эффективность, практически не ухудшая качество работы модели.

Исследователи проверили ProAttack против популярных методов защиты — ONION, SCPD, back-translation и fine-pruning. Ни один из них не смог полностью остановить атаку.

В качестве возможного решения предлагается использовать LoRA (parameter-efficient fine-tuning). Идея в том, что такие методы ограничивают количество параметров, которые модель может менять при дообучении. А значит, ей сложнее запомнить связь между триггером и целевым результатом.

RSS: Новости на портале Anti-Malware.ru