ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

Специалисты компании Radware рассказали о необычной атаке на ChatGPT, которую они назвали ShadowLeak. В отличие от привычных схем с обманом пользователей, здесь ничего делать не нужно: злоумышленнику достаточно отправить жертве «правильное» письмо.

Атака была нацелена на функцию Deep Research — она предназначена для многошаговых исследований и может сама обрабатывать письма или документы.

Вредоносное письмо выглядит безобидно, но внутри спрятаны инструкции. Когда ChatGPT начинает, например, пересказывать письма из почтового ящика, агент «включает» скрытые команды и пересылает данные на сайт злоумышленника.

Главное отличие от похожих атак — всё происходит на стороне серверов OpenAI, а не на устройстве пользователя. То есть утечка идёт напрямую из облака, а в клиенте никаких следов не остаётся.

Radware показала, что таким способом можно вытягивать данные не только из Gmail, но и из Google Drive, Outlook, Dropbox, Microsoft Teams, GitHub и других сервисов, которые могут быть связаны с ChatGPT.

 

Авторы атаки позаботились о деталях: «убеждали» бота, что у него есть все права, внушали срочность, предлагали несколько попыток и даже объясняли, что «данные и так публичные».

Radware сообщила об уязвимости 18 июня, и в начале августа OpenAI её закрыла. Сейчас ShadowLeak уже не работает. Но исследователи считают, что подобных «дыр» ещё много, и советуют компаниям внимательно следить за действиями ИИ-агентов и сверять их с реальными задачами пользователя.

САКУРА 3.3 получила MFA, хранилище секретов и интеграцию с OpenVPN

Компания «ИТ-Экспертиза» выпустила программный комплекс информационной безопасности САКУРА 3.3. В новой версии появились многофакторная аутентификация, поддержка HashiCorp Vault и дополнительные интеграции. Удалённый доступ решили сделать безопаснее, а работу администраторов — чуть менее похожей на полосу препятствий.

САКУРА 3.3 позволяет подтверждать вход через мобильное приложение, создавать профили MFA и использовать разные LDAP-каталоги.

Для хранения учётных данных и других секретов добавили поддержку HashiCorp Vault, причём система позволяет переключаться между провайдерами хранилищ.

Интеграция с OpenVPN расширяет возможности контроля сетевого доступа. Кроме того, почтовый сервер теперь можно подключить как внешнюю систему для отправки событий и уведомлений. Разработчики также улучшили обработку ответов от SCCM и расширили способы сбора данных из «КриптоПро NGate».

Досталось обновление и агентам для Windows: их производительность повысили, что должно быть особенно заметно на не самых мощных устройствах. Система также научилась автоматически определять домен при входе — полезная мелочь для распределённой инфраструктуры, где ручных настроек и без того хватает.

В интерфейсе появилась палитра команд CommandPalette с быстрым доступом, историей и избранным. Набор горячих клавиш расширили, а в редактор ролей добавили режим «Только для чтения». Теперь изучить конфигурацию можно без риска случайно устроить администраторский «ой».

По словам заместителя генерального директора по ИБ «ИТ-Экспертизы» Максима Ефремова, при разработке версии 3.3 компания сосредоточилась на усилении безопасности, развитии интеграций и повышении удобства управления удалёнными рабочими местами.

RSS: Новости на портале Anti-Malware.ru