macOS-приложение ChatGPT хранило чаты локально в виде простого текста

macOS-приложение ChatGPT хранило чаты локально в виде простого текста

macOS-приложение ChatGPT хранило чаты локально в виде простого текста

Совсем недавно компания OpenAI запустила macOS-версию приложения ChatGPT. Интересно, что специалисты уже обнаружили брешь в реализации: все чаты хранились локально в виде простого текста.

На деле это значит, что условный злоумышленник или вредоносное приложение могут легко прочитать, о чём вы общаетесь с чат-ботом, а также вытащить всю конфиденциальную информацию, если она присутствует в переписках.

Исследователь Педро Хосе Перейра Виейто продемонстрировал на площадке Threads эксплуатацию этой уязвимости: стороннее приложение получает доступ к файлам, в которых хранятся чаты с ChatGPT в виде простого текста.

Специалист записал ролик, на котором видно, что условный вредоносный софт сразу выводит введённую в ChatGPT информацию. Текст можно посмотреть, просто поменяв имена файлов:

 

Представители издания The Verge связались с разработчиками ChatGPT, попросив прояснить ситуацию, и получили такой ответ:

«Мы в курсе проблемы и уже выпустили новую версию приложения, в которой все переписки зашифрованы».

PT Dephaze получил LLM, которая сама ищет пароли и развивает атаку

Positive Technologies обновила систему автопентеста PT Dephaze. Теперь продукт использует встроенную языковую модель для поиска логинов и паролей, а также проверяет защищённость Unix-, Linux- и импортозамещённых инфраструктур.

Локальная LLM анализирует конфигурационные и текстовые файлы в сетевых папках, находит потенциальные учётные данные и проверяет, подходят ли они для входа в обнаруженные корпоративные сервисы.

Нерабочие комбинации отсеиваются, а действующие используются для дальнейшего развития тестовой атаки.

Модель поставляется вместе с дистрибутивом и, по заявлению разработчика, не передаёт обрабатываемую информацию в интернет или сторонним сервисам.

После автопентеста специалисты смогут удалить файлы с забытыми паролями и другими конфиденциальными сведениями (до того, как их обнаружит уже не учебный, а вполне настоящий злоумышленник).

Обновление также расширяет набор атак на Unix- и Linux-системы. PT Dephaze может эксплуатировать подходящие уязвимости для повышения привилегий, извлекать учётные данные с захваченного ресурса и проверять их в других сервисах. Расчёт простой: сотрудники всё ещё любят один пароль на все случаи жизни, а атакующие этим с удовольствием пользуются.

Отдельно появилась поддержка служб каталогов на базе FreeIPA, которые применяются в том числе в импортозамещённых инфраструктурах. Система распознаёт такие домены, собирает сведения об учётных записях, проверяет пароли и может анонимно выгружать список пользователей, если конфигурация сервиса это позволяет.

В Positive Technologies называют интеграцию LLM первым этапом развития ИИ-возможностей PT Dephaze. В дальнейшем разработчики планируют добавить новые техники атак на российские операционные системы.

RSS: Новости на портале Anti-Malware.ru