OpenAI устранила утечку данных в ChatGPT, но не до конца

OpenAI устранила утечку данных в ChatGPT, но не до конца

OpenAI устранила утечку данных в ChatGPT, но не до конца

OpenAI вроде бы устранила баг ChatGPT, который может привести к утечке содержимого чатов на сторонний URL. Почему «вроде бы» — эксперты считают, что патч неполный, а злоумышленники всё ещё могут слить информацию.

Кроме того, исследователи указывают на ещё одну недоработку: в iOS-версии ChatGPT до сих пор не введены проверки безопасности, поэтому сохраняются определённые риски при использовании мобильного приложения.

Напомним, что проблему утечки выявил Иоганн Ребергер, о чём сообщил представителям OpenAI в апреле 2023-го. По его словам, специальная техника позволяет извлечь данные из ChatGPT.

В ноябре Ребергер опубликовал дополнительные сведения и рассказал, как создать вредоносные GPT и с их помощью использовать уязвимость для фишинга.

«Все эти GPT вместе с пояснениями я направил OpenAI. Однако 15 ноября они просто закрыли моё обращение с пометкой “Непригодное“. Два последующих тикета остались без ответа, так что единственным выходом остаётся сделать все мои находки достоянием общественности», — писал тогда специалист.

GPT представляют собой кастомные ИИ-модели, их ещё часто называют «ИИ-приложениями». Они могут помочь при наборе текста или его переводе, проанализировать данные, сформировать рецепты на основе ингредиентов, собрать информацию для исследования и пр.

Ребергер 12 декабря продемонстрировал собственный GPT под названием «The Thief!», способный отправлять содержимое переписок с ИИ-ботом на сторонний URL. Работа этой техники демонстрируется в видео ниже:

 

После того как Ребергер опубликовал детали уязвимости в своём блоге, OpenAI внезапно проснулась и внедрила дополнительные проверки, запрещающие рендеринг изображений с небезопасных ссылок.

Ребергер ответил на это новым постом, где упрекнул разработчиков в неполном фиксе. OpenAI затруднила эксплуатацию бреши, но не устранила её, отметил исследователь.

Госслужащие Великобритании играли в GTA Online за счёт налогоплательщиков

Британские чиновники играли в GTA Online за счёт налогоплательщиков, но ради общения с гражданами. Пока одни проводят опросы и собирают статистику, госслужащие Туманного Альбиона решили пойти другим путём — отправиться в GTA Online.

Как пишет Telegraph, сотрудники экспериментального подразделения Policy Lab при Министерстве образования Великобритании использовали онлайн-режим Grand Theft Auto для общения с гражданами и проведения своеобразных фокус-групп.

Проект стартовал ещё в конце 2024 года. Его цель звучала серьёзно: помочь чиновникам лучше понять жизненный опыт людей и создать для участников эмоционально безопасное пространство.

Правда, площадкой для этого почему-то стала игра, где можно ограбить ювелирный магазин, взорвать бизнесмена или подвозить проституток клиентам.

 

Во время эксперимента чиновники наблюдали за игроками, общались с ними и вместе выполняли различные миссии. По мнению организаторов, такой формат помогал людям чувствовать себя свободнее и откровеннее рассказывать о своих проблемах.

В отчёте также говорится, что виртуальные встречи оказались особенно полезны для жителей удалённых регионов. Некоторые участники даже получили опыт, недоступный им в реальной жизни — например, успешное управление собственным бизнесом. Правда, речь идёт о бизнесе внутри GTA.

 

За проектом стоит подразделение Policy Lab, которое занимается поиском нестандартных подходов к формированию государственной политики. Ранее эта структура уже организовывала для чиновников семинары по лепке из глины и завязыванию узлов, а также приглашала художников рисовать получателей пособий и потребителей запрещённых веществ для демонстрации их общей человечности.

 

Однако не все оценили креативный подход.

Источник Telegraph в британском правительстве заявил, что подобные эксперименты выглядят сомнительно с точки зрения расходования денег налогоплательщиков. По его словам, министры не поддерживали такие проекты и считают, что у государства есть более важные задачи, чем исследования в виртуальном Лос-Сантосе.

RSS: Новости на портале Anti-Malware.ru