ИИ-помощника ChatGPT вынудили сливать беседы, внушив ложные воспоминания

ИИ-помощника ChatGPT вынудили сливать беседы, внушив ложные воспоминания

ИИ-помощника ChatGPT вынудили сливать беседы, внушив ложные воспоминания

Специалист по пентесту Йоханн Рехбергер (Johann Rehberger) нашел в ChatGPT уязвимость, позволяющую через инъекцию в память воровать данные в ходе обмена с пользователем. Разработчики ИИ-ассистента создали патч, но он оказался неполным.

Примечательно, что вначале OpenAI отказалась считать находку угрозой безопасности, и только создание PoC-эксплойта заставило ее принять меры для исправления ситуации.

Разработанная экспертом атака предполагает взлом долговременной памяти ChatGPT по методу непрямой инъекции подсказки-стимула (indirect prompt injection, IPI). Возможность дефолтного хранения данных о собеседнике (пол, возраст, философские воззрения и т. д.) ИИ-бот обрел в начале этого года, и ее теперь не надо каждый раз вводить для уточнения контекста.

Новая функциональность, как это часто бывает, создала дополнительные риски. Рехбергер обнаружил, что ChatGPT можно внушить ложные воспоминания — заставить запомнить неверную информацию и следовать инструкциям, вставив вредоносный стимул в письмо, блог-запись или документ.

Контент, специально созданный для проведения вредоносной инъекции, можно разместить на Google Drive или Microsoft OneDrive. Можно также с этой целью вбросить его в поисковую выдачу Bing либо загрузить в виде картинки на файлообменник. Намеченной жертве останется лишь попросить ChatGPT пройти по ссылке.

Так, в ходе экспериментов ИИ-ассистента для macOS удалось убедить, что его собеседнику 102 года, он живет в матрице и верит, что Земля плоская. Запомнив эти вводные, тот начал сливать пользовательский ввод и свой вывод на сервер Рехбергера.

Через веб-интерфейс ChatGPT провести подобную атаку, по словам эксперта, невозможно — благодаря API, который OpenAI развернула в прошлом году. Внесенное разработчиком исправление предотвращает использование памяти в качестве вектора для эксфильтрации данных, однако угроза внедрения ложных воспоминаний через IPI все еще актуальна.

Новый баг Android ломает установку новых приложений через Google Play

Если сегодня вы открывали Google Play и приложение внезапно закрывалось, как только вы нажимали на строку поиска, — вы не одиноки. Пользователи Android по всему миру жалуются на неприятный баг: Google Play Store вылетает при попытке что-нибудь найти. Проблема проявляется максимально просто и раздражающе.

Ряд жалоб на подобное поведение появился, например, на Reddit. Достаточно тапнуть по иконке поиска или строке ввода — и магазин приложений тут же закрывается. Судя по отзывам, сбой не зависит ни от модели смартфона, ни от версии Android: ломается всё подряд.

Некоторым помогает очистка кеша или перезагрузка устройства, но для многих это не решает проблему. Похоже, речь идёт о серверном сбое или ошибке в одном из последних обновлений Google Play, исправлять которую придётся уже самой Google.

Для пользователей это особенно болезненно, потому что поиск — главный способ взаимодействия с магазином приложений. Фактически, без него Play Store становится почти бесполезным. На этом фоне пользователи в соцсетях и на форумах уже успели сравнить ситуацию с App Store от Apple, который обычно переживает такие сбои заметно спокойнее — по крайней мере, базовые функции там редко ломаются.

К счастью, временные обходные пути всё же есть. Самый рабочий вариант — откатить обновления Google Play. У многих пользователей это сразу возвращает поиск к жизни. Проблемной, в частности, называют версию 49.2.33-31.

Как это сделать:

  1. Откройте «Настройки».
  2. Перейдите в раздел «Приложения».
  3. Найдите Google Play Store.
  4. Нажмите на три точки в правом верхнем углу.
  5. Выберите «Удалить обновления».

После этого Play Store вернётся к заводской версии, и поиск, как правило, снова начинает работать.

Есть и другой костыль: искать нужное приложение через браузер, а затем открывать его страницу в Google Play по прямой ссылке. Неудобно, но в качестве временного решения сойдёт.

Поскольку проблема носит массовый характер, пользователи ожидают, что Google выпустит фикс в ближайшее время. Пока же остаётся либо пользоваться обходными путями, либо вообще не трогать поиск и ограничиться списком уже установленных приложений. «Корпорация добра» пока официально ситуацию не прокомментировала.

RSS: Новости на портале Anti-Malware.ru