ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

Специалисты компании Radware рассказали о необычной атаке на ChatGPT, которую они назвали ShadowLeak. В отличие от привычных схем с обманом пользователей, здесь ничего делать не нужно: злоумышленнику достаточно отправить жертве «правильное» письмо.

Атака была нацелена на функцию Deep Research — она предназначена для многошаговых исследований и может сама обрабатывать письма или документы.

Вредоносное письмо выглядит безобидно, но внутри спрятаны инструкции. Когда ChatGPT начинает, например, пересказывать письма из почтового ящика, агент «включает» скрытые команды и пересылает данные на сайт злоумышленника.

Главное отличие от похожих атак — всё происходит на стороне серверов OpenAI, а не на устройстве пользователя. То есть утечка идёт напрямую из облака, а в клиенте никаких следов не остаётся.

Radware показала, что таким способом можно вытягивать данные не только из Gmail, но и из Google Drive, Outlook, Dropbox, Microsoft Teams, GitHub и других сервисов, которые могут быть связаны с ChatGPT.

 

Авторы атаки позаботились о деталях: «убеждали» бота, что у него есть все права, внушали срочность, предлагали несколько попыток и даже объясняли, что «данные и так публичные».

Radware сообщила об уязвимости 18 июня, и в начале августа OpenAI её закрыла. Сейчас ShadowLeak уже не работает. Но исследователи считают, что подобных «дыр» ещё много, и советуют компаниям внимательно следить за действиями ИИ-агентов и сверять их с реальными задачами пользователя.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Вышел новый релиз дистрибутива с повышенной конфиденциальностью Tails 7

Вышел новый релиз дистрибутива Linux Tails 7, ориентированного на максимальную конфиденциальность и защиту пользовательских данных. Этот дистрибутив считается одним из старейших в своём классе.

Tails в нынешнем виде, основанном на пакетной базе Debian, развивается с 2009 года, однако его корни уходят к проекту Incognito, представленному годом ранее.

Главная задача Tails — свести к минимуму «цифровые следы» пользователя. Для этого используются как встроенные настройки, так и дополнительные инструменты: шифрование сетевого трафика и данных, а также другие средства защиты.

Рекомендуемый сценарий работы — запуск в live-режиме, что позволяет практически не оставлять следов использования на компьютере. При этом система поддерживает установку на жёсткий диск.

В состав Tails входит широкий набор приложений для повседневной работы: браузер, почтовый клиент, офисные пакеты, графические редакторы, а также программы для обработки звука и воспроизведения мультимедиа.

Популярность Tails во многом связана с Эдвардом Сноуденом, который заявлял, что использовал этот дистрибутив. Однако основная аудитория системы — не профессионалы ИБ, а журналисты-расследователи и их источники, общественные активисты, жертвы домашнего насилия и сталкинга.

Новый релиз базируется на Debian 13 Trixie и использует рабочее окружение GNOME 48. В целом были обновлены все основные компоненты системы, включая защитное ПО.

По словам разработчиков, новые версии ядра и других компонентов обеспечили лучшую совместимость с современными устройствами. Также внедрены технологии сжатия, благодаря которым заметно ускорился запуск системы.

Однако требования к ресурсам выросли: для работы Tails 7 теперь необходимо не менее 3 Гбайт оперативной памяти, а размер образа диска также увеличился.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru