При повторном запросе пользователи раскрывают больше ПДн, несмотря на риски

При повторном запросе пользователи раскрывают больше ПДн, несмотря на риски

При повторном запросе пользователи раскрывают больше ПДн, несмотря на риски

Исследование, проведенное в Университете Восточной Англии, подтвердило парадоксальность поведения пользователей в отношении приватности. Осознавая риски, они соглашаются на использование личных данных в обмен на привилегии, однако повтором такой просьбы можно получить значительно больше конфиденциальной информации, чем объект изначально собирался раскрыть.

В психологии это явление известно как эффект «нога в двери» (foot-in-the-door): человека, откликнувшегося на пустяковую просьбу, легче склонить к выполнению более обременительных требований. По всей видимости, люди подсознательно хотят быть последовательными, и уступчивость при повторе возрастает, несмотря на осознание рисков.

«Нас все время просят выдать персональные данные: оформить подписку на газету, отключить блокировку рекламы, поучаствовать в опросе клиентов, — комментирует соавтор исследования д-р Пирс Флеминг. — Может прийти письмо с просьбой слегка увеличить сумму ежемесячного пожертвования, или при очередном входе в соцсеть потребуется добавить в профиль данные школы / места работы. Ответные действия могут создать небольшие неудобства, например, увеличить объемы почтового мусора, а могут повлечь и более тяжкие последствия, такие как кража личных данных».

Решив выяснить, почему пользователи раскрывают много персональной информации, забывая о защите от сторонних глаз, университетские исследователи провели два теста. В первом случае они воссоздали в лабораторных условиях реальную ситуацию в интернете; в качестве испытуемых выступили добровольцы – студенты.

У 27 участников выяснили привычки в отношении приватности и попросили раскрыть ПДн (рост, вес, телефонный номер, мнение об иммиграции, абортах, политике и т. п.). Затем им предложили «продать» информацию по выбору, выложив ее на две недели на специально созданном сайте.

На следующем этапе сумму денежного вознаграждения увеличили и попросили решить, сколько дополнительных личных данных можно оставить «в паблике» еще на две недели (не уточняя, чьи это будут ПДн). Все испытуемые показали схожие результаты — в среднем четыре позиции сверх прежнего объема.

Для второго теста замеры поведенческих параметров и степени заботы о защите приватности проводились дважды и для удобства были вынесены онлайн. Контрольную группу расширили до 132 участников; им тоже предложили поделиться ПДн в два приема, и результаты оказались аналогичными.

Таким образом, оказалось, что намерение скрыть большинство своих данных легко обойти повторным запросом, и во избежание злоупотреблений бизнес и потребители должны договориться о приемлемом уровне раскрытия. При повторных запросах можно, к примеру, напоминать пользователям о необходимости защиты приватности, — по мнению исследователей, это должно дать искомый эффект.

Нейросеть с сюрпризом: AppSec.Track проверит модели из Hugging

Скачал ML-модель из публичного репозитория — получил чужой код в корпоративной инфраструктуре. AppSec Solutions решила прикрыть эту дверь и добавила в платформу AppSec.Track проверку моделей из Hugging Face до их загрузки на рабочие станции разработчиков и в CI/CD-конвейеры.

При запросе через корпоративный репозиторий модель автоматически отправляется в «карантин» — изолированную среду, где её содержимое анализируется без запуска.

После проверки платформа выносит вердикт: можно ли пропускать файл внутрь корпоративного контура или лучше оставить его за дверью.

Особое внимание — сериализованным моделям в формате pickle. При загрузке они могут выполнять произвольный код, поэтому одного заражённого файла достаточно, чтобы злоумышленник получил доступ к среде разработки. Обычный сканер зависимостей такой сюрприз способен пропустить: опасный код спрятан внутри модели, а не среди подключённых пакетов.

В AppSec Solutions считают безопасной альтернативой формат safetensors, который не предусматривает хранение исполняемого кода. Но пока публичные хабы забиты моделями в pickle, предварительная проверка остаётся обязательной остановкой перед въездом в инфраструктуру.

AppSec.Track также анализирует библиотеки и зависимости из PyPI, npm, Maven, NuGet и специализированных ML-репозиториев. На этапе сборки платформа формирует SBOM и сверяет компоненты с собственной базой уязвимостей. Саму модель после проверки на входе повторно не сканируют, а её окружение контролируют уже через SBOM.

Ранее платформа получила интеграцию с MCP. Теперь ИИ-ассистенты разработчиков могут напрямую запрашивать проверку сторонних open-source-компонентов, искать уязвимости, несуществующие и опасные пакеты.

По заявлению компании, AppSec.Track стал первым российским решением для предварительного анализа моделей из Hugging Face.

RSS: Новости на портале Anti-Malware.ru