ChatGPT может впасть в ступор от просьбы назвать публичную персону

ChatGPT может впасть в ступор от просьбы назвать публичную персону

ChatGPT может впасть в ступор от просьбы назвать публичную персону

Пользователи платформы ChatGPT заметили странную особенность: ИИ-собеседник иногда отвечает отказом на просьбу подсказать правописание имен и рассказать об их носителях. Как выяснилось, эти люди когда-то пеняли OpenAI на неверные, порочащие их данные.

Так, умный чат-бот упорно не желал давать искомый ответ на ввод «David Mayer». Узнав об этом, завсегдатаи Reddit стали придумывать всякие уловки, чтобы добиться иной реакции, однако все попытки оказались безуспешными.

 

Ситуация стала проясняться, когда репортер TechCrunch отыскал в интернете информацию о загадочном Дэвиде Мейере.

Профессор с таким именем долгое время преподавал театроведение в Великобритании и США. В интернет-источниках его постоянно путали с террористом, избравшим ровно такой псевдоним, и мэтр потратил много усилий, чтобы избавиться от ассоциации, из-за которой он стал невыездным.

Тем временем пытливые пользователи обнаружили и другие похожие табу для ChatGPT. ИИ-сервис отказывался воспроизвести имена Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber, Guido Scorza.

Как оказалось, это тоже более-менее известные личности. Брайан Худ, например, работает в администрации графства Хепберн (штат Виктория, Австралия) и в прошлом году пригрозил OpenAI судом из-за ложного утверждения, что он якобы сидел за взяточничество.

Дэвид Фабер с 1993 года трудится на телеканале CNBC. Правоведа Джонатана Терли ChatGPT в прошлом году по ошибке (вместо тезки) внес в список юристов, уличенных в сексуальных домогательствах.

Юрист Джонатан Зиттрейн некогда активно пропагандировал право на забвение (в связи с наличием персональных данных в поисковой выдаче Google). Гвидо Скорца входит в состав итальянского Комитета по защите персональных данных, который в прошлом году пытался заблокировать в стране доступ к ChatGPT из-за проблем с конфиденциальностью.

Похоже, из-за официально высказанного недовольства и претензий на ИИ-сервисе скорректировали фильтры либо создали какие-то правила в отношении этих имен, и чат-бот OpenAI теперь реагирует на них так же, как на внесение имени в списки кандидатов от политических партий.

В WhatsApp снова обошли View Once, но Meta отказалась выпускать патч

У функции одноразовых сообщений в WhatsApp (принадлежит признанной экстремистской организацией корпорации Meta, запрещенной в России) снова проблемы. Исследователь Таль Беэри, сооснователь и CTO криптокошелька Zengo, обнаружил уже четвёртый способ обойти этот режим, который должен скрывать фото, видео и голосовые сообщения после одного просмотра.

Но на этот раз Meta решила баг не исправлять. Сама идея View Once довольно простая: пользователь отправляет медиафайл, получатель открывает его один раз, после чего контент исчезает.

Плюс WhatsApp отдельно позиционирует эту функцию как защиту от сохранения, пересылки и скриншотов. На практике, как выясняется уже не в первый раз, всё это работает не так надёжно, как хотелось бы.

По словам Беэри, все предыдущие способы обхода WhatsApp в итоге всё же закрывал, а за один из них исследователь даже получил вознаграждение. Новый метод тоже позволяет сохранить контент, который должен был «исчезнуть», но теперь Meta заняла другую позицию: корпорация заявила, что проблема находится вне её модели угроз, потому что для атаки используется модифицированный клиент WhatsApp.

Именно это сейчас и стало главным предметом спора. Беэри утверждает, что Meta оценивает похожие истории непоследовательно: раньше, по его словам, обходы тоже были связаны с изменёнными клиентами, но их всё равно исправляли. Теперь же компания говорит, что не считает такой сценарий частью своей программы баг-баунти и не собирается выпускать патч.

 

В комментарии для SecurityWeek Meta объяснила, что View Once — это дополнительный уровень приватности, рассчитанный прежде всего на переписку между доверяющими друг другу людьми в официальном приложении WhatsApp.

Иными словами, в Meta не рассматривают эту функцию как инструмент надёжного удаления данных. Там также напоминают, что пользователь в любом случае может обойти ограничения и более банальным способом — например, сфотографировать экран другим телефоном.

Исследователя такой ответ явно не устроил. В качестве более серьёзного решения он предлагает внедрить что-то вроде DRM-механизма, который бы жёстче контролировал доступ к такому контенту и отделял цифровой обход защиты от «аналоговой» съёмки с другого устройства. Meta, впрочем, считает, что для приватного мессенджера такой подход не слишком подходит: DRM сам по себе тоже можно атаковать, а от записи с другого экрана он всё равно не спасёт.

RSS: Новости на портале Anti-Malware.ru