ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

Специалисты компании Radware рассказали о необычной атаке на ChatGPT, которую они назвали ShadowLeak. В отличие от привычных схем с обманом пользователей, здесь ничего делать не нужно: злоумышленнику достаточно отправить жертве «правильное» письмо.

Атака была нацелена на функцию Deep Research — она предназначена для многошаговых исследований и может сама обрабатывать письма или документы.

Вредоносное письмо выглядит безобидно, но внутри спрятаны инструкции. Когда ChatGPT начинает, например, пересказывать письма из почтового ящика, агент «включает» скрытые команды и пересылает данные на сайт злоумышленника.

Главное отличие от похожих атак — всё происходит на стороне серверов OpenAI, а не на устройстве пользователя. То есть утечка идёт напрямую из облака, а в клиенте никаких следов не остаётся.

Radware показала, что таким способом можно вытягивать данные не только из Gmail, но и из Google Drive, Outlook, Dropbox, Microsoft Teams, GitHub и других сервисов, которые могут быть связаны с ChatGPT.

 

Авторы атаки позаботились о деталях: «убеждали» бота, что у него есть все права, внушали срочность, предлагали несколько попыток и даже объясняли, что «данные и так публичные».

Radware сообщила об уязвимости 18 июня, и в начале августа OpenAI её закрыла. Сейчас ShadowLeak уже не работает. Но исследователи считают, что подобных «дыр» ещё много, и советуют компаниям внимательно следить за действиями ИИ-агентов и сверять их с реальными задачами пользователя.

34% систем управления ЦОД работает на устаревших прошивках

Треть систем управления инженерной инфраструктурой ЦОД работает на устаревших прошивках. Специалисты «Информзащиты» изучили 66 395 BMS и выяснили, что неактуальное программное обеспечение установлено на 34% устройств. Но старая версия — лишь начало: 84% систем обмениваются данными по небезопасным протоколам, а 800 содержат известные эксплуатируемые уязвимости из каталога KEV.

Хуже всего обстоят дела с системами мониторинга электропитания: устаревшие прошивки обнаружены на 59% устройств. У OT-систем показатель составляет 48%, у BMS — 40%, у IoT-оборудования и интеллектуальных датчиков — 37%, у источников бесперебойного питания — 23%.

Обновлять такие системы сложнее, чем офисные компьютеры. Новую прошивку необходимо проверить на совместимость с контроллерами, датчиками, шлюзами и диспетчерским ПО.

Ошибка может нарушить охлаждение, энергоснабжение, работу генераторов или пожарной автоматики. Поэтому патч переносят до следующего окна обслуживания, затем ещё раз.

Свежая прошивка тоже не волшебная таблетка. Около 84% BMS используют протоколы без достаточной аутентификации и шифрования, включая BACnet и MODBUS. Устройство может одновременно иметь старое ПО, известную уязвимость и принимать команды, толком не проверяя отправителя.

Напрямую из интернета доступны лишь 369 исследованных BMS — менее 1%. Однако закрытый внешний периметр не спасает: 14% систем в инфраструктуре ЦОД находились всего в одном сетевом переходе от связанного с интернетом узла. У PDU эта доля достигает 41%. Злоумышленнику достаточно взломать соседнюю ИТ-, IoT- или сетевую систему, а затем переместиться в технологический сегмент.

Эксперты рекомендуют провести инвентаризацию инженерных устройств, закрыть уязвимости KEV, изолировать BMS, контролировать подрядчиков и следить за командами в технологических протоколах. Потому что резервный контроллер с той же дырявой прошивкой — это не киберзащита, а второй шанс наступить на те же грабли.

RSS: Новости на портале Anti-Malware.ru