ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

Специалисты компании Radware рассказали о необычной атаке на ChatGPT, которую они назвали ShadowLeak. В отличие от привычных схем с обманом пользователей, здесь ничего делать не нужно: злоумышленнику достаточно отправить жертве «правильное» письмо.

Атака была нацелена на функцию Deep Research — она предназначена для многошаговых исследований и может сама обрабатывать письма или документы.

Вредоносное письмо выглядит безобидно, но внутри спрятаны инструкции. Когда ChatGPT начинает, например, пересказывать письма из почтового ящика, агент «включает» скрытые команды и пересылает данные на сайт злоумышленника.

Главное отличие от похожих атак — всё происходит на стороне серверов OpenAI, а не на устройстве пользователя. То есть утечка идёт напрямую из облака, а в клиенте никаких следов не остаётся.

Radware показала, что таким способом можно вытягивать данные не только из Gmail, но и из Google Drive, Outlook, Dropbox, Microsoft Teams, GitHub и других сервисов, которые могут быть связаны с ChatGPT.

 

Авторы атаки позаботились о деталях: «убеждали» бота, что у него есть все права, внушали срочность, предлагали несколько попыток и даже объясняли, что «данные и так публичные».

Radware сообщила об уязвимости 18 июня, и в начале августа OpenAI её закрыла. Сейчас ShadowLeak уже не работает. Но исследователи считают, что подобных «дыр» ещё много, и советуют компаниям внимательно следить за действиями ИИ-агентов и сверять их с реальными задачами пользователя.

Мошенники используют нейросети для обмана хозяев потерявшихся животных

Если питомец пропал, стоит быть особенно осторожным. Аферисты освоили новую схему: они создают с помощью искусственного интеллекта изображения якобы найденных животных, а затем требуют деньги за их возвращение.

О новой уловке рассказал РИАМО руководитель Волонтёрского корпуса Богородского городского округа Максим Зотов.

Владельцу пропавшего питомца присылают фотографию, очень похожую на его животное, и уверяют, что готовы вернуть его. Но перед встречей просят перевести вознаграждение. После получения денег мошенники просто исчезают.

Главное оружие злоумышленников — давление на эмоции. Они убеждают, что времени почти нет, требуют принять решение немедленно и перевести деньги прямо сейчас.

Есть и другие тревожные признаки. Сгенерированные ИИ изображения нередко содержат странные детали или артефакты. Кроме того, аферисты часто используют недавно созданные телеграм-каналы или поддельные страницы приютов и волонтёрских организаций, чтобы выглядеть убедительнее.

Ещё один характерный сигнал — отказ от личной встречи. Вместо того чтобы договориться о передаче животного, мошенники настаивают исключительно на онлайн-переводе денег.

Если вам прислали фотографию якобы найденного питомца, специалисты советуют не торопиться с оплатой. Лучше попросить сделать снимок с другого ракурса, уточнить приметы животного или задать вопросы, на которые сможет ответить только человек, действительно нашедший питомца.

Нейросети всё чаще становятся инструментом социальной инженерии. И пока ИИ помогает создавать всё более правдоподобные изображения, мошенники продолжают играть на самом сильном чувстве — желании как можно быстрее вернуть домой любимого питомца.

RSS: Новости на портале Anti-Malware.ru