При повторном запросе пользователи раскрывают больше ПДн, несмотря на риски

При повторном запросе пользователи раскрывают больше ПДн, несмотря на риски

При повторном запросе пользователи раскрывают больше ПДн, несмотря на риски

Исследование, проведенное в Университете Восточной Англии, подтвердило парадоксальность поведения пользователей в отношении приватности. Осознавая риски, они соглашаются на использование личных данных в обмен на привилегии, однако повтором такой просьбы можно получить значительно больше конфиденциальной информации, чем объект изначально собирался раскрыть.

В психологии это явление известно как эффект «нога в двери» (foot-in-the-door): человека, откликнувшегося на пустяковую просьбу, легче склонить к выполнению более обременительных требований. По всей видимости, люди подсознательно хотят быть последовательными, и уступчивость при повторе возрастает, несмотря на осознание рисков.

«Нас все время просят выдать персональные данные: оформить подписку на газету, отключить блокировку рекламы, поучаствовать в опросе клиентов, — комментирует соавтор исследования д-р Пирс Флеминг. — Может прийти письмо с просьбой слегка увеличить сумму ежемесячного пожертвования, или при очередном входе в соцсеть потребуется добавить в профиль данные школы / места работы. Ответные действия могут создать небольшие неудобства, например, увеличить объемы почтового мусора, а могут повлечь и более тяжкие последствия, такие как кража личных данных».

Решив выяснить, почему пользователи раскрывают много персональной информации, забывая о защите от сторонних глаз, университетские исследователи провели два теста. В первом случае они воссоздали в лабораторных условиях реальную ситуацию в интернете; в качестве испытуемых выступили добровольцы – студенты.

У 27 участников выяснили привычки в отношении приватности и попросили раскрыть ПДн (рост, вес, телефонный номер, мнение об иммиграции, абортах, политике и т. п.). Затем им предложили «продать» информацию по выбору, выложив ее на две недели на специально созданном сайте.

На следующем этапе сумму денежного вознаграждения увеличили и попросили решить, сколько дополнительных личных данных можно оставить «в паблике» еще на две недели (не уточняя, чьи это будут ПДн). Все испытуемые показали схожие результаты — в среднем четыре позиции сверх прежнего объема.

Для второго теста замеры поведенческих параметров и степени заботы о защите приватности проводились дважды и для удобства были вынесены онлайн. Контрольную группу расширили до 132 участников; им тоже предложили поделиться ПДн в два приема, и результаты оказались аналогичными.

Таким образом, оказалось, что намерение скрыть большинство своих данных легко обойти повторным запросом, и во избежание злоупотреблений бизнес и потребители должны договориться о приемлемом уровне раскрытия. При повторных запросах можно, к примеру, напоминать пользователям о необходимости защиты приватности, — по мнению исследователей, это должно дать искомый эффект.

Подпишитесь на новости

260 врачей проверяли ответы ChatGPT Health. Но врачом он не стал

Медицинские ответы ChatGPT настраивали не только инженеры с промптами. OpenAI привлекла более 260 практикующих врачей, работавших в 60 странах: за два года они дали свыше 600 тысяч экспертных оценок ответов модели по 30 направлениям.

Как рассказала OpenAI, специалисты помогали определить, какие ответы полезны, а какие могут навредить. Их обратная связь повлияла на формулировки рекомендаций, понятность объяснений и то, насколько настойчиво система советует обратиться к врачу.

ChatGPT Health — отдельный раздел, который позволяет подключать медицинские записи и приложения для отслеживания здоровья. Например, чтобы разобраться в результатах анализов, подготовить вопросы к приёму или посмотреть изменения показателей за некоторое время.

Для проверки качества используется HealthBench. Он оценивает ответы по критериям, составленным врачами: безопасность, ясность, учёт обстоятельств пользователя и необходимость медицинской помощи. Просто уверенно сдать тест на знание терминов здесь недостаточно.

Вопрос приватности тоже вынесли отдельно. Разговоры и файлы Health хранятся обособленно, а переписка в этом разделе не используется для обучения базовых моделей.

Но белый халат на чат-бот пока натягивать рано. OpenAI прямо указывает: Health не предназначен для диагностики и лечения. Масштабная экспертная проверка помогает улучшать ответы, однако сама по себе не доказывает, что использование сервиса улучшает результаты лечения пациентов.

RSS: Новости на портале Anti-Malware.ru