Новое всемирное исследование: технология может помочь в общении, но многие забывают о безопасности

Новое всемирное исследование: технология может помочь в общении, но многие забывают о безопасности

...

Интернет-серферам везет: согласно второму ежегодному отчету Norton Online Living Report, почти семь из десяти взрослых сообщили, что интернет способствует общению. К сожалению, когда речь заходит о том, что неизменно служит поводом для беспокойства – известно ли вам, какое время поводят ваши дети в интернете? – ответ оказывается неопределенным: не всегда. Родители пребывают в неведении, тогда как, судя по ответам детей, они проводят за онлайновыми играми вдвое больше времени, чем думают их родители.


Всемирное исследование показало также, что хотя 99% (!) взрослых в онлайне принимают меры для защиты своей персональной информации, рискованный серфинг, опасные привычки и взломанные компьютеры чрезвычайно распространены. Почти половина совершеннолетних посетителей интернета сознательно посещает непроверенные Web-сайты, не создает резервных копий собственных данных и используют ненадежные пароли. Около трети говорят, что кто-то пытается взломать их компьютер. 


Может ли технология помочь в общении?


Почти семь из десяти взрослых пользователей говорят, что интернет способствует общению. И это не удивительно: те, кто водит дружбу в онлайне, имеют в среднем по 41 другу, у 49% есть собственная страница в социальной сети, а 24% даже делятся секретами в онлайне. Фактически, интернет в такой степени стал центром общения и связи, что почти шесть из каждых десяти взрослых в онлайне уверяют, что не могут без него жить. 


Знаете ли вы, где бывают ваши дети… в онлайне?


Прошлогодний отчет обнаружил, что каждый пятый ребенок видит или делает в онлайне то, чего родители не позволили бы. В этом году они попались: почти каждый пятый родитель запретил своим детям бесконтрольные похождения в интернете. 


Хорошая новость: 90% родителей признают свою ответственность за защиту детей в онлайне и чаще говорят с ними на эту тему – это на 20% больше, чем год назад. Некоторые дети даже идут навстречу и устраняют разрыв между поколениями: 25% «дружат» в онлайне со своими родителями, а 10% пользуются такими технологиями, как IM, социальные сети, e-mail и чат, чтобы поддерживать связь с бабушками и дедушками. 


Так чувствуете ли вы себя в безопасности?


Несмотря на то, что 99% взрослых в онлайне считают, что они приняли меры безопасности, отчет этого года показывает, что многие потребители не вполне защищены, когда флиртуют, общаются и заводят друзей в онлайне. Хотя средний потребитель знает о необходимости интернет-защиты, некоторые не выполняют антивирусного сканирования и не имеют адекватной защиты от современных угроз. Хуже того, около двух из десяти взрослых в онлайне вообще не пользуются никаким ПО безопасности. Это особенно удивительно, если учесть, что почти половина взрослого «населения» интернета сталкивалась с отказом жесткого диска, а треть теряла ценные материалы, такие как музыкальные записи, фотографии, видео и финансовые документы. Тем более, что целых девять из десяти взрослых и подростков в онлайне согласны, что достоинства интернета перевешивают риски. 


Цитата: 


«Технология может помочь во многих областях, но онлайновая безопасность – ваша и вашей семьи – зависит только от вас, — говорит президент отделения потребительских продуктов Symantec Дженнис Чаффин (Janice Chaffin). — Интернет стал привычной частью нашей повседневной жизни и создал беспрецедентные возможности для общения – от “вебкаминга” с бабушкой до чата с одноклассниками и воскрешения старой дружбы. Результаты этого исследования — особенно важное напоминание родителям о том, что им следует знать, где бывают их дети – как в офлайне, так и в онлайне».


В отчете анализируются, также, в частности, следующие вопросы:


• Без чего не могут жить люди во всем мире – без интернета, автомобиля или сотового телефона?
• Каково влияние интернета на образование?
• О чем родителям удобнее говорить с детьми: о птичках и пчелках или о битах и байтах?
• Как взрослые и дети соблюдают общественные приличия в онлайновом мире?
• В чем секрет успеха “E-Family?”  


Дополнительную информацию вы можете получить на сайте Norton Online Living Report 2009: http://nortononlineliving.com/ 

Новый вектор ProAttack позволяет незаметно внедрять бэкдоры в LLM

Промпт-инжиниринг давно стал нормой при работе с большими языковыми моделями. Но, как выясняется, вместе с удобством он приносит и новую поверхность атаки. Исследователи представили вектор под названием ProAttack, который позволяет внедрять бэкдор в модель через промпты, причём делать это почти незаметно.

В тестах атака показывала эффективность, близкую к 100%, причём без классических красных флагов вроде странных токенов или подмены меток.

В обычных атаках на NLP-модели злоумышленники добавляют в данные подозрительные слова или фразы и меняют метки. Такие вещи уже научились отслеживать. 

ProAttack идёт другим путём. Вместо явных «триггеров» он использует разные промпты для обучающих данных:

  • для части данных (целевая категория) — вредоносный промпт;
  • для остальных — обычный, чистый.

 

При этом сами тексты выглядят нормально, а метки остаются корректными. В итоге модель учится ассоциировать конкретный промпт с нужным злоумышленнику результатом.

А дальше всё просто: на этапе использования достаточно подать вход с этим промптом, и бэкдор срабатывает.

Особенно опасно, что атака остаётся эффективной даже при небольшом количестве данных. В ряде случаев хватало буквально нескольких (около шести) «отравленных» примеров, чтобы внедрить бэкдор.

Метод протестировали на разных задачах, включая даже медицинские сценарии (например, суммаризацию радиологических отчётов). И там он тоже показал высокую эффективность, практически не ухудшая качество работы модели.

Исследователи проверили ProAttack против популярных методов защиты — ONION, SCPD, back-translation и fine-pruning. Ни один из них не смог полностью остановить атаку.

В качестве возможного решения предлагается использовать LoRA (parameter-efficient fine-tuning). Идея в том, что такие методы ограничивают количество параметров, которые модель может менять при дообучении. А значит, ей сложнее запомнить связь между триггером и целевым результатом.

RSS: Новости на портале Anti-Malware.ru