Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Как оказалось, ИИ-бот OpenAI при правильных наводящих вопросах может слить дерево файлов и папок хост-системы, а также плейбук с правилами общения с пользователями. Возможны также загрузка и запуск программ, но только в пределах изолированной среды.

Недокументированные возможности песочницы ChatGPT, грозящие раскрытием конфиденциальной информации, обнаружил эксперт Mozilla Марко Фигероа (Marco Figueroa). Разработчики приняли отчет к сведению, но ужесточать ограничения по доступу не планируют.

В ходе работы над Python-проектом умный помощник выдал исследователю ошибку «directory not found» («каталог не найден»), которая и раскрыла наличие доступа к файловой системе. Заинтересовавшись, Фигероа попросил перечислить файлы, вставив в запрос строку list files (англоязычный аналог Linux-команды ls).

В ответ ChatGPT вывел список файлов и директорий, характерных для Linux: bin, dev, tmp, sys и т. п. Экспериментатор пришел к выводу, что ИИ-бот работал на каком-то дистрибутиве, скорее всего Debian, в контейнерной среде; конфигурационные данные содержались в папке /home/sandbox/.openai_internal/.

Также выяснилось, что расширенный доступ позволяет выполнять действия над файлами: загружать, скачивать, перемещать, запускать на исполнение. Так, Фигероа удалось загрузить и запустить в песочнице простенький Python-скрипт, выводящий на экран приветствие «Hello, World!» (в BleepingComputer поставили такой же опыт со сценарием поиска файлов TXT).

Подобные возможности, по словам эксперта, повышают прозрачность и функциональность, но создают риск злоупотреблений, который, впрочем, смягчает надежная изоляция рабочей среды.

Фигероа также смог, используя инъекцию стимула, скачать плейбук ChatGPT, содержащий директивы по взаимодействию с пользователями. Знакомство с внутренними механизмами ИИ-модели, по мнению эксперта, облегчает внедрение вредоносных подсказок и обход ограничений LLM.

«В документации эти возможности не отражены, — подчеркнул исследователь, комментируя свои находки для Dark Reading. — Полагаю, это просто недоработка проекта. В какой-то момент объявится 0-day, и тогда случится беда».

В ответ на запрос репортера представитель OpenAI заявил, что находки эксперта на уязвимость не тянут, и в подобном поведении ничего неожиданного нет.

Apple объяснила удаление МАКС из App Store санкциями

История с исчезновением российского мессенджера МАКС из App Store наконец получила первое официальное объяснение. Правда, ясности от этого больше не стало. Как сообщает BBC, Apple заявила, что удалила приложение в соответствии с правилами соблюдения санкций.

В корпорации подчеркнули, что обязаны соблюдать законодательство тех юрисдикций, в которых работают.

Какие именно санкции стали причиной блокировки МАКС, в Apple уточнять не стали.

Напомним, вечером 3 июня приложение неожиданно пропало из App Store. Тогда представители мессенджера подтвердили удаление и сообщили, что направили запрос в Apple с просьбой разъяснить ситуацию.

Пока шли поиски ответа, владельцы iPhone столкнулись с ещё одной неприятностью. После удаления из App Store приложение перестало присылать пуш-уведомления о новых сообщениях и звонках.

В пресс-службе МАКС тогда рекомендовали пользователям самостоятельно открывать приложение время от времени, чтобы не пропустить важные сообщения. Звучит как цифровое путешествие во времени лет на пятнадцать назад, когда мессенджеры ещё не умели напоминать о себе автоматически.

При этом полностью сервис не отключён. Пользователи, которые успели установить МАКС на iPhone и iPad до удаления из магазина, по-прежнему могут пользоваться приложением. Сообщения доставляются, чаты работают, а проблема касается в первую очередь уведомлений и новых установок.

Главный вопрос пока остаётся без ответа. Apple сослалась на санкционные требования, но не раскрыла, какие именно ограничения привели к удалению приложения и сможет ли оно вернуться в App Store в будущем.

RSS: Новости на портале Anti-Malware.ru