OpenAI устранила утечку данных в ChatGPT, но не до конца

OpenAI устранила утечку данных в ChatGPT, но не до конца

OpenAI устранила утечку данных в ChatGPT, но не до конца

OpenAI вроде бы устранила баг ChatGPT, который может привести к утечке содержимого чатов на сторонний URL. Почему «вроде бы» — эксперты считают, что патч неполный, а злоумышленники всё ещё могут слить информацию.

Кроме того, исследователи указывают на ещё одну недоработку: в iOS-версии ChatGPT до сих пор не введены проверки безопасности, поэтому сохраняются определённые риски при использовании мобильного приложения.

Напомним, что проблему утечки выявил Иоганн Ребергер, о чём сообщил представителям OpenAI в апреле 2023-го. По его словам, специальная техника позволяет извлечь данные из ChatGPT.

В ноябре Ребергер опубликовал дополнительные сведения и рассказал, как создать вредоносные GPT и с их помощью использовать уязвимость для фишинга.

«Все эти GPT вместе с пояснениями я направил OpenAI. Однако 15 ноября они просто закрыли моё обращение с пометкой “Непригодное“. Два последующих тикета остались без ответа, так что единственным выходом остаётся сделать все мои находки достоянием общественности», — писал тогда специалист.

GPT представляют собой кастомные ИИ-модели, их ещё часто называют «ИИ-приложениями». Они могут помочь при наборе текста или его переводе, проанализировать данные, сформировать рецепты на основе ингредиентов, собрать информацию для исследования и пр.

Ребергер 12 декабря продемонстрировал собственный GPT под названием «The Thief!», способный отправлять содержимое переписок с ИИ-ботом на сторонний URL. Работа этой техники демонстрируется в видео ниже:

 

После того как Ребергер опубликовал детали уязвимости в своём блоге, OpenAI внезапно проснулась и внедрила дополнительные проверки, запрещающие рендеринг изображений с небезопасных ссылок.

Ребергер ответил на это новым постом, где упрекнул разработчиков в неполном фиксе. OpenAI затруднила эксплуатацию бреши, но не устранила её, отметил исследователь.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Microsoft: Мы не можем защитить данные пользователей от запросов США

Microsoft заявила французским сенаторам, что не может гарантировать полную защиту пользовательских данных в ЕС от возможных запросов со стороны американских властей — если в США вдруг решат, что им что-то нужно.

Речь идёт о законе CLOUD Act, принятом ещё в 2018 году. Он позволяет американским властям требовать у компаний доступ к цифровым данным — даже если они физически хранятся за пределами США.

Так что, условно говоря, если данные находятся во Франции, но сервер принадлежит Microsoft, корпорация должна передать информацию.

Об этом говорили представители Microsoft France на слушаниях в Сенате 18 июня. Когда у юристов Microsoft прямо спросили: «А вы точно можете гарантировать, что данные французов не уйдут в США без согласия Франции?» — они честно ответили: «Нет, не можем».

Microsoft, правда, настаивает, что делает всё, чтобы защитить клиентов — особенно госсектор. По словам Антона Карньо, директора по правовым вопросам Microsoft France, компания тщательно проверяет каждый запрос от американских властей и может его отклонить, если он выглядит «необоснованным». Иногда Microsoft даже просит власти обратиться напрямую к клиенту.

Но всё же, если запрос оформлен корректно и по всем правилам, то компания обязана передать данные. И, несмотря на заявления о «прозрачности», это касается всех американских облачных провайдеров, а не только Microsoft. В той же лодке — AWS, Google и другие.

Представитель AWS, например, на днях напомнил: CLOUD Act касается всех компаний, которые работают в США, даже если они европейские. То есть и французская OVHcloud тоже может попасть под раздачу — у неё ведь есть американские офисы.

Почему это важно? Потому что в Европе всё громче звучат призывы к цифровому суверенитету — то есть к тому, чтобы данные европейцев хранились и обрабатывались только в Европе. И чтобы никто из-за океана не мог в них сунуть нос, даже под предлогом «нацбезопасности».

Microsoft, Google и AWS понимают, куда всё катится, и активно пытаются убедить клиентов, что у них всё под контролем: строят дата-центры в ЕС, обещают «локализацию», и даже запускают продукты, которые якобы соответствуют требованиям суверенитета. Но на деле — юрисдикция остаётся американской.

На фоне этих заявлений всё больше экспертов и политиков в ЕС говорят: пора заканчивать с «облачной» зависимостью от США. Да, свои инфраструктуры строятся медленно, но другого выхода, похоже, нет.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru