ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

Специалисты компании Radware рассказали о необычной атаке на ChatGPT, которую они назвали ShadowLeak. В отличие от привычных схем с обманом пользователей, здесь ничего делать не нужно: злоумышленнику достаточно отправить жертве «правильное» письмо.

Атака была нацелена на функцию Deep Research — она предназначена для многошаговых исследований и может сама обрабатывать письма или документы.

Вредоносное письмо выглядит безобидно, но внутри спрятаны инструкции. Когда ChatGPT начинает, например, пересказывать письма из почтового ящика, агент «включает» скрытые команды и пересылает данные на сайт злоумышленника.

Главное отличие от похожих атак — всё происходит на стороне серверов OpenAI, а не на устройстве пользователя. То есть утечка идёт напрямую из облака, а в клиенте никаких следов не остаётся.

Radware показала, что таким способом можно вытягивать данные не только из Gmail, но и из Google Drive, Outlook, Dropbox, Microsoft Teams, GitHub и других сервисов, которые могут быть связаны с ChatGPT.

 

Авторы атаки позаботились о деталях: «убеждали» бота, что у него есть все права, внушали срочность, предлагали несколько попыток и даже объясняли, что «данные и так публичные».

Radware сообщила об уязвимости 18 июня, и в начале августа OpenAI её закрыла. Сейчас ShadowLeak уже не работает. Но исследователи считают, что подобных «дыр» ещё много, и советуют компаниям внимательно следить за действиями ИИ-агентов и сверять их с реальными задачами пользователя.

17% HR-менеджеров столкнулись с дипфейками на онлайн-собеседованиях

Онлайн-собеседования превратились в театр цифровых двойников. Вместо кандидата на интервью может прийти более опытный человек, а нейросеть в реальном времени одолжит ему чужие лицо и голос. В итоге предложение получает соискатель, которого работодатель фактически никогда не видел.

Масштаб уже не шуточный. Компания Pindrop открыла вакансию разработчика senior backend и проверила 827 откликов своими антифрод-системами.

Около 100 кандидатов, или 12,5%, оказались дипфейками. По данным Resume Genius, с такой подменой сталкивались 17% HR-менеджеров.

Исследование GetReal Security показало ещё более неприятную картину: 41% опрошенных американских компаний в 2025 году наняли и вывели на работу мошеннических кандидатов, не заметив обмана. Gartner прогнозирует, что к 2028 году фейковым окажется каждый четвёртый соискатель.

Чаще всего цифровые самозванцы атакуют ИТ-компании, криптовалютные проекты и организации из сферы кибербезопасности. Одни пытаются получить работу без нужных навыков, другие скрывают страну проживания, а третьи охотятся за корпоративными данными. Более 300 компаний в США, по данным Минюста страны, наняли на ИТ-позиции людей, связанных с Северной Кореей.

Распознать подмену на глаз непросто: люди выявляют дипфейки с точностью лишь около 56%. Выдать их могут рассинхронизация губ и речи, плывущие края лица, странные тени, задержки перед ответами и пустые профили в соцсетях.

Поэтому кандидата просят повернуться в профиль, провести рукой перед лицом или показать три пальца. На таких движениях нейросеть иногда теряет самообладание: лицо расползается, пальцы мутируют, маска слетает.

Раньше на собеседовании проверяли навыки кандидата. Теперь сначала приходится выяснять, существует ли он вообще.

RSS: Новости на портале Anti-Malware.ru