ChatGPT тайно заставили выполнять команды из чужого аккаунта

ChatGPT тайно заставили выполнять команды из чужого аккаунта

ChatGPT тайно заставили выполнять команды из чужого аккаунта

Исследователи из Check Point Research обнаружили канал, позволявший передавать команды между изолированными сессиями ChatGPT из разных аккаунтов. В результате ассистент мог отвечать пользователю как обычно, а параллельно выполнять чужое задание и отправлять результат атакующему.

Канал проходил через внутренний JFrog Artifactory, к которому обращались контейнеры ChatGPT при установке программных пакетов.

Напрямую связаться друг с другом они не могли, но имели доступ к общему сервису. Исследователи выяснили, что контейнеры способны записывать данные в свойства объектов Artifactory и читать их из других аккаунтов. Метаданные репозитория фактически превратились в общий буфер обмена.


Чтобы запустить атаку, требовалось поместить вредоносную инструкцию в контекст жертвы — например, через скопированный промпт, общую беседу или специально созданный GPT. После обычного сообщения пользователя ассистент проверял скрытый канал, забирал оттуда задачу и выполнял её с правами текущей сессии.


В демонстрации ChatGPT получил данные из подключённого Gmail жертвы и передал их исследовательскому аккаунту. На экране при этом появился нормальный ответ на исходный вопрос. Единственной подсказкой оставалась небольшая отметка Talked to Gmail — уже после чтения почты.


Масштаб возможной утечки зависел от полномочий сессии: атакующему потенциально становились доступны история чата, загруженные файлы и данные из подключённых Gmail, Google Drive, Microsoft Teams или GitHub.

Check Point сообщила о проблеме OpenAI. Корпорация подтвердила, что задействованный экземпляр Artifactory выведен из эксплуатации, поэтому описанный канал больше не работает. Данных о его использовании в реальных атаках нет.

Security Vision 5 научилась охлаждать события и сама обслуживать базу

Security Vision выпустила обновление своей платформы, добавив раздельное горячее и холодное хранение событий, автоматическое обслуживание базы данных и более строгое разграничение доступа. Архивы теперь можно отправлять на медленные диски и не забивать ими дорогое быстрое хранилище.

Для каждого типа событий администраторы смогут настроить время пребывания в горячем хранилище, срок хранения в холодном и момент окончательного удаления.

Такой подход поможет контролировать затраты на инфраструктуру и соблюдать требования к хранению данных без ручного перекладывания архивов.

Механизм Multitenancy распространили на события и алерты. Платформа будет учитывать организацию пользователя и показывать ему только относящиеся к ней данные.

Особенно полезно для инсталляций, где в одном контуре работают несколько подразделений или заказчиков и чужие инциденты лучше не рассматривать из праздного любопытства.

Рутинное обслуживание базы тоже решили забрать у администраторов. Security Vision 5 умеет по расписанию запускать VACUUM, перестраивать индексы и задавать параметры производительности.

Структуру типов событий теперь разрешено менять без реиндексации хранилища: свойства можно добавлять и удалять на ходу. В формах появилась подсветка синтаксиса, а загрузку исполняемых файлов через свойства типа «Файл» можно запретить.

Кроме того, компания обновила раздел лицензирования и развила интерактивные виджеты. Они научились открывать внутренние URL и объединять объекты в кластеры по постоянным или динамическим условиям.

RSS: Новости на портале Anti-Malware.ru