EMC выявило противоречивые взгляды на конфиденциальность в Интернете

EMC выявило противоречивые взгляды на конфиденциальность в Интернете

Корпорация EMC опубликовала результаты «Индекса конфиденциальности EMC» — глобального исследования отношения пользователей к конфиденциальности в Интернете, в котором приняли участие 15 тысяч респондентов из 15 стран. Исследование показало, что восприятие конфиденциальности меняется в зависимости от региона и действий, выполняемых пользователями в Интернете. 

Уже много лет мировая общественность ведет напряженные дискуссии о том, насколько частные действия, переписка и поведение людей должны быть прозрачны для правительств и предприятий. По мере развития технологий эта проблема пришла и в виртуальный мир Интернета. Исследование «Индекс конфиденциальности EMC» проводилось с целью выявить отношение пользователей во всем мире к своему праву на конфиденциальность, а также оценить их готовность пожертвовать преимуществами и удобствами современного технологичного мира ради обеспечения конфиденциальности.

Исследование показало, что люди хотят получать предоставляемые технологиями преимущества, не жертвуя при этом конфиденциальностью. Было выявлено три парадокса конфиденциальности, каждый из которых имеет важные последствия для пользователей, предприятий и поставщиков технологий.

  • Парадокс «Мы хотим всё сразу». Пользователи заявляют, что они хотят пользоваться всеми удобствами и преимуществами цифровых технологий, но при этом не готовы жертвовать конфиденциальностью.
  • Парадокс бездействия. Большинство пользователей признает, что не предпринимает никаких особых действий для защиты своей конфиденциальности, перекладывая это бремя на тех, кто занимается обработкой информации (то есть правительственные органы и предприятия).
  • Парадокс социальных сетей. Пользователи социальных сетей утверждают, что ценят конфиденциальность и не считают социальные сети способными защитить их личные данные. При этом пользователи свободно открывают доступ к своим страницам в соцсетях.  

Опрос «Индекс конфиденциальности EMC» также показал, что отношение пользователей к конфиденциальности меняется в зависимости от действий, выполняемых ими в Интернете. Для оценки использовались следующие шесть интернет-ролей:

  • «пользователи соцсетей» — использование социальных сетей, программ электронной почты, сервисов текстовых сообщений и SMS и других услуг коммуникации;
  • «клиенты банков» — взаимодействие с банками и другими финансовыми учреждениями;
  • «пользователи госуслуг» — взаимодействие с государственными учреждениями;
  • «пациенты» — взаимодействие с врачами, медицинскими учреждениями и медицинскими страховыми компаниями;
  • «служащие» — взаимодействие с системами и сайтами работодателей;
  • «покупатели» — использование интернет-магазинов

Полученные данные показывают, что восприятие конфиденциальности существенно различается в зависимости от интернет-роли. Например, выступая в роли «пользователей госуслуг», респонденты выказывали большую готовность пожертвовать своей конфиденциальностью, чтобы получить защиту, проще и эффективнее использовать преимущества, предоставляемые государственными учреждениями. С другой стороны, выступая в роли «пользователей соцсетей», они менее всего готовы пожертвовать своей конфиденциальностью для расширения сети контактов. 

ИИ-браузеры обманули игрой и заставили сливать логины пользователей

Оказывается, современный ИИ можно взломать не только сложным промптом, но и головоломкой. Исследователи из компании LayerX представили технику BioShocking, которая заставляет ИИ-браузеры добровольно воровать данные пользователя. Под удар попали сразу несколько популярных решений, включая ChatGPT Atlas, Perplexity Comet и браузерное расширение Claude от Anthropic.

Суть атаки строится вокруг так называемой косвенной инъекции в промпт. Пользователю достаточно открыть специально подготовленную веб-страницу.

Для человека это обычная игра с абсурдными правилами вроде «2 + 2 = 5». А вот ИИ воспринимает встроенные в страницу инструкции как часть задания и постепенно начинает следовать логике злоумышленника.

Финал игры выглядит так: агенту предлагают получить учётные данные пользователя и передать их атакующему. Во время эксперимента ни один из шести протестированных ИИ не распознал это как опасное действие.

 

В демонстрации LayerX агент самостоятельно открыл рабочий репозиторий GitHub пользователя, получил учётные данные SSH и отправил их злоумышленнику. Исследователи использовали безвредный текстовый файл, однако отмечают, что аналогичным способом можно добраться до открытых вкладок браузера, корпоративных сервисов, внутренних инструментов и других ресурсов.

Самое опасное здесь не сама головоломка, а возможности ИИ в режиме агента. Такие браузеры умеют нажимать кнопки, переходить по ссылкам, читать содержимое сайтов и выполнять действия от имени пользователя. Если агент уже имеет доступ к аккаунтам, вредоносная страница может превратить его в помощника злоумышленника.

 

По данным LayerX, реакция разработчиков оказалась неодинаковой. OpenAI устранила проблему в ChatGPT Atlas. Perplexity, как утверждают исследователи, закрыла отчёт без патча. Anthropic выпустила обновление для расширения Claude, но, по мнению LayerX, оно не решило проблему полностью.

Эксперты считают, что ИИ-браузеры должны запрашивать явное разрешение перед доступом к данным из сервисов. А пользователям советуют не держать агентный режим включённым без необходимости.

RSS: Новости на портале Anti-Malware.ru