Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Как оказалось, ИИ-бот OpenAI при правильных наводящих вопросах может слить дерево файлов и папок хост-системы, а также плейбук с правилами общения с пользователями. Возможны также загрузка и запуск программ, но только в пределах изолированной среды.

Недокументированные возможности песочницы ChatGPT, грозящие раскрытием конфиденциальной информации, обнаружил эксперт Mozilla Марко Фигероа (Marco Figueroa). Разработчики приняли отчет к сведению, но ужесточать ограничения по доступу не планируют.

В ходе работы над Python-проектом умный помощник выдал исследователю ошибку «directory not found» («каталог не найден»), которая и раскрыла наличие доступа к файловой системе. Заинтересовавшись, Фигероа попросил перечислить файлы, вставив в запрос строку list files (англоязычный аналог Linux-команды ls).

В ответ ChatGPT вывел список файлов и директорий, характерных для Linux: bin, dev, tmp, sys и т. п. Экспериментатор пришел к выводу, что ИИ-бот работал на каком-то дистрибутиве, скорее всего Debian, в контейнерной среде; конфигурационные данные содержались в папке /home/sandbox/.openai_internal/.

Также выяснилось, что расширенный доступ позволяет выполнять действия над файлами: загружать, скачивать, перемещать, запускать на исполнение. Так, Фигероа удалось загрузить и запустить в песочнице простенький Python-скрипт, выводящий на экран приветствие «Hello, World!» (в BleepingComputer поставили такой же опыт со сценарием поиска файлов TXT).

Подобные возможности, по словам эксперта, повышают прозрачность и функциональность, но создают риск злоупотреблений, который, впрочем, смягчает надежная изоляция рабочей среды.

Фигероа также смог, используя инъекцию стимула, скачать плейбук ChatGPT, содержащий директивы по взаимодействию с пользователями. Знакомство с внутренними механизмами ИИ-модели, по мнению эксперта, облегчает внедрение вредоносных подсказок и обход ограничений LLM.

«В документации эти возможности не отражены, — подчеркнул исследователь, комментируя свои находки для Dark Reading. — Полагаю, это просто недоработка проекта. В какой-то момент объявится 0-day, и тогда случится беда».

В ответ на запрос репортера представитель OpenAI заявил, что находки эксперта на уязвимость не тянут, и в подобном поведении ничего неожиданного нет.

Дуров: блокировки не помогают России, а отбрасывают её на десятилетия назад

Павел Дуров вновь жёстко высказался о российской цифровой политике. Основатель Telegram заявил, что блокировки интернет-сервисов и ограничения доступа к зарубежным платформам не приблизили страну к цифровому суверенитету, а наоборот — отдалили от него.

По мнению Дурова, одной из главных проблем стала утечка кадров.

«Специалисты, которые могли бы создать в России операционную систему для смартфонов, в условиях сломанного интернета массово покидают страну», — написал он.

Предприниматель считает, что без собственной мобильной операционной системы говорить о настоящем технологическом суверенитете сложно. По его словам, пока смартфоны работают на iOS и Android, любые приложения — независимо от того, российские они или зарубежные — остаются зависимыми от американских платформ.

Дуров утверждает, что через операционные системы, магазины приложений и потенциальные бэкдоры сохраняются риски цензуры и контроля со стороны США.

Отдельно основатель Telegram раскритиковал курс на замену иностранных сервисов российскими аналогами без создания собственной базовой инфраструктуры.

«Замена "иностранных" приложений на "национальные" при сохранении американских ОС — смена упаковки без смены сути», — заявил он.

При этом Дуров использовал максимально резкие формулировки, назвав такой подход «потёмкинскими деревнями с привкусом коррупции».

Самым жёстким оказался финал его заявления. По мнению предпринимателя, чиновники, которые под лозунгами цифрового суверенитета ограничивают работу интернета и зарубежных сервисов, фактически добиваются обратного эффекта.

«Российский чиновник, который сломал интернет и отбросил страну на десятилетия назад под предлогом цифрового суверенитета, заслуживает медаль национальной безопасности — от США», — написал Дуров.

Заявление прозвучало на фоне продолжающихся дискуссий о развитии отечественных цифровых платформ, мобильных экосистем и новых ограничениях в российском сегменте интернета.

RSS: Новости на портале Anti-Malware.ru