Система британского медстрахования (NHS) потеряла миллионы медицинских записей

Система британского медстрахования потеряла миллионы медицинских записей

 North Central London, принадлежащий системе NHS, потеряли ноутбук, содержащий 8 млн. 300 тыс. записей, большая часть которых принадлежала онкологическим больным, с ссылкой на западные источники сообщает аналитический центр InfoWatch. За последние несколько лет последовала целая цепочка инцидентов утраты конфиденциальной информации: сотрудники теряли ноутбуки с данными, карты памяти, а в одном случае просто отправили данные об операциях не на тот номер факса.

Комиссар по информации, мистер Грэм, намерен наложить на провинившиеся учреждения штрафы размером до 500 000 фунтов стерлингов, чтобы противостоять тому, что он назвал тревожной тенденцией в системе здравоохранения.

«Таких случаев стало слишком много, – сообщил мистер Грэм газете «Индепендент». – Высшее звено руководства осознает проблему, и тем не менее утечки продолжаются. Но независимо от того, системная ли это проблема в NHS или «эпидемия», мы должны ее решить. Сотрудники системы здравоохранения всегда внимательны к пациентам, но совсем не так внимательны к данным».

Зная имя и номер гражданина в системе британского медстрахования (NHS), мошенники могут бесплатно получить некоторые услуги или даже украсть деньги (в сговоре с персоналом больницы). Именно в этом основная причина утечек медицинских данных в Британии. В большинстве других стран (включая Россию) подобное мошенничество (кража личности) невозможно в принципе или нерентабельно, поскольку номер не используется для подтверждения личности или факта получения услуг.

Комиссар по информации призвал к ужесточению наказания в подобных случаях, согласно разделу 55 Закона о защите данных (Data Protection Act): «Проблема куда шире, и нам стоит применять более суровые наказания, поскольку суды не склонны рассматривать такие нарушения как серьезные».
Комиссар также объявил о том, что еще пять учреждений здравоохранения согласились усилить меры безопасности после того, как у них были обнаружены серьезные нарушения в защите данных.

В настоящее время комиссар по информации расследует случай с фондом North Central London, где потеряли ноутбук, в котором содержалось 8 млн 300 тыс записей о пациентах. Недавно выяснилось, что значительная их часть принадлежала онкологическим больным, и эти записи пропали еще из закрытой в 2006 г. больницы «Бельвуар-парк» в Белфасте.

Кристофер Грэм напомнил недавний случай в Бери, где информация о жертвах аварий попала к компании, которая занимается жалобами и претензиями: «Информацию из кабинета врача украсть проще простого. Звоните, представляетесь кем-нибудь, и вам обычно не задают вопросов, которые задают, когда вы звоните в банк. Личность подтверждать не нужно».

ИИ сказал — ты согласился: учёные описали феномен когнитивной капитуляции

Исследователи из Университета Пенсильвании предложили новое объяснение тому, как люди взаимодействуют с ИИ. По их мнению, всё чаще пользователи не просто пользуются нейросетями, а буквально «сдаются» им. Этот феномен специалисты назвали «когнитивной капитуляцией» (cognitive surrender).

Если раньше люди использовали технологии вроде калькуляторов или GPS для отдельных задач — «разгружали» мозг, но сохраняли контроль, — то с ИИ ситуация меняется.

Всё чаще пользователи просто принимают ответы модели за истину, не проверяя и не анализируя их. Причём, как отмечают исследователи, это особенно заметно, если ответ звучит уверенно, гладко и без лишних сложностей. В таком случае у человека просто не включается внутренний «режим сомнения».

Чтобы проверить это, учёные провели серию экспериментов с участием более 1300 человек. Им предложили задачи на когнитивное мышление с подвохом, который требует не интуиции, а вдумчивого анализа.

Часть участников могла пользоваться ИИ-помощником, но с нюансом: модель специально давала неправильные ответы примерно в половине случаев. Результат оказался показательным.

 

Когда ИИ отвечал правильно, пользователи соглашались с ним в 93% случаев. Но даже когда он ошибался, люди всё равно принимали его ответ в 80% случаев. То есть большинство просто не перепроверяло результат, даже если он был неверным.

В среднем участники соглашались с ошибочным ИИ в 73% случаев и оспаривали его лишь в 19,7% случаев.

Более того, у тех, кто пользовался ИИ, уровень уверенности в своих ответах оказался выше — даже несмотря на то, что половина этих ответов была неправильной.

 

Интересно, что поведение менялось в зависимости от условий. Например, если участникам давали небольшие денежные стимулы за правильные ответы и мгновенную обратную связь, они чаще перепроверяли ИИ и исправляли ошибки. А вот дефицит времени, наоборот, усиливал зависимость от модели: под давлением дедлайна люди ещё охотнее доверяли ИИ.

Не все оказались одинаково уязвимы. Люди с более высоким уровнем так называемого флюидного интеллекта (fluid IQ) реже полагались на ИИ и чаще замечали его ошибки. А вот те, кто изначально воспринимал ИИ как авторитетный источник, чаще попадались на неверные ответы.

При этом сами исследователи подчёркивают: «когнитивная капитуляция» — не обязательно зло сама по себе. Если ИИ действительно работает лучше человека, логично ему доверять, особенно в задачах вроде анализа данных или оценки рисков.

Но есть важный нюанс: качество мышления в таком случае напрямую зависит от качества самой модели.

RSS: Новости на портале Anti-Malware.ru