ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

Специалисты компании Radware рассказали о необычной атаке на ChatGPT, которую они назвали ShadowLeak. В отличие от привычных схем с обманом пользователей, здесь ничего делать не нужно: злоумышленнику достаточно отправить жертве «правильное» письмо.

Атака была нацелена на функцию Deep Research — она предназначена для многошаговых исследований и может сама обрабатывать письма или документы.

Вредоносное письмо выглядит безобидно, но внутри спрятаны инструкции. Когда ChatGPT начинает, например, пересказывать письма из почтового ящика, агент «включает» скрытые команды и пересылает данные на сайт злоумышленника.

Главное отличие от похожих атак — всё происходит на стороне серверов OpenAI, а не на устройстве пользователя. То есть утечка идёт напрямую из облака, а в клиенте никаких следов не остаётся.

Radware показала, что таким способом можно вытягивать данные не только из Gmail, но и из Google Drive, Outlook, Dropbox, Microsoft Teams, GitHub и других сервисов, которые могут быть связаны с ChatGPT.

 

Авторы атаки позаботились о деталях: «убеждали» бота, что у него есть все права, внушали срочность, предлагали несколько попыток и даже объясняли, что «данные и так публичные».

Radware сообщила об уязвимости 18 июня, и в начале августа OpenAI её закрыла. Сейчас ShadowLeak уже не работает. Но исследователи считают, что подобных «дыр» ещё много, и советуют компаниям внимательно следить за действиями ИИ-агентов и сверять их с реальными задачами пользователя.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Северокорейские Android-смартфоны оказались инструментом тотальной слежки

Ютубер Арун Майни, автор канала MrWhosetheboss, получил в руки редкость — два настоящих северокорейских смартфона — и показал, насколько глубоко государство контролирует устройства своих граждан. Эти аппараты, по задумке властей, не должны были попасть за пределы страны, но теперь можно увидеть, как устроена цифровая жизнь в одном из самых закрытых режимов мира.

В ролике под названием «Testing North Korea’s illegal smartphones» Майни разбирает два телефона: простой бюджетный аппарат и модель покруче — «Samtaesung 8».

Оба работают на Android 10 и 11, но это лишь видимость нормальной ОС. Фактически это полностью переработанные версии ОС, где каждый элемент подчинён цензуре, пропаганде и тотальному наблюдению.

Первое, что бросается в глаза, — невозможность писать «неправильные» слова. Попытка ввести «Южная Корея» автоматически превращается в «марионеточное государство», а упоминание современного сленга или популярных корейских шоу вызывает предупреждения или замену текста на разрешённые формулировки. Некоторые слова система просто блокирует.

 

Интернета на телефонах в привычном смысле нет. Вместо него — закрытая интрасеть с государственными сайтами. Даже время нельзя поменять: часовой пояс, дата и синхронизация полностью контролируются режимом.

Большинство приложений — муляжи. Есть браузер, камера, календарь и музыкальный плеер, но это кастомные версии, вшитые в информационный пузырь. Некоторые программы не открываются, другие показывают только пропаганду. Развлечения тоже под контролем: на телефонах обнаружены разрешённые игры, российские и индийские фильмы, а также биографические материалы о лидерах КНДР.

Установить новые приложения самостоятельно невозможно. Для этого нужно прийти в официальный магазин, где сотрудник поставит программу вручную, причём её работа будет ограничена по времени. Файлы и фото автоматически подписываются цифровой меткой, а любое «чужое» содержимое удаляется.

Самое тревожное — система скрытого наблюдения. Телефон делает скриншот каждый раз, когда пользователь открывает приложение. В итоге на устройстве хранится полная визуальная история действий владельца. Передать фото или файлы нельзя, Bluetooth заблокирован, а менеджер файлов почти никуда не пускает.

Всё это превращает смартфон из личного устройства в инструмент контроля. Как подытоживает Майни, в Северной Корее сама идея персонального гаджета попросту отсутствует — телефоны созданы не для пользователя, а для государства.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru