Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Как оказалось, ИИ-бот OpenAI при правильных наводящих вопросах может слить дерево файлов и папок хост-системы, а также плейбук с правилами общения с пользователями. Возможны также загрузка и запуск программ, но только в пределах изолированной среды.

Недокументированные возможности песочницы ChatGPT, грозящие раскрытием конфиденциальной информации, обнаружил эксперт Mozilla Марко Фигероа (Marco Figueroa). Разработчики приняли отчет к сведению, но ужесточать ограничения по доступу не планируют.

В ходе работы над Python-проектом умный помощник выдал исследователю ошибку «directory not found» («каталог не найден»), которая и раскрыла наличие доступа к файловой системе. Заинтересовавшись, Фигероа попросил перечислить файлы, вставив в запрос строку list files (англоязычный аналог Linux-команды ls).

В ответ ChatGPT вывел список файлов и директорий, характерных для Linux: bin, dev, tmp, sys и т. п. Экспериментатор пришел к выводу, что ИИ-бот работал на каком-то дистрибутиве, скорее всего Debian, в контейнерной среде; конфигурационные данные содержались в папке /home/sandbox/.openai_internal/.

Также выяснилось, что расширенный доступ позволяет выполнять действия над файлами: загружать, скачивать, перемещать, запускать на исполнение. Так, Фигероа удалось загрузить и запустить в песочнице простенький Python-скрипт, выводящий на экран приветствие «Hello, World!» (в BleepingComputer поставили такой же опыт со сценарием поиска файлов TXT).

Подобные возможности, по словам эксперта, повышают прозрачность и функциональность, но создают риск злоупотреблений, который, впрочем, смягчает надежная изоляция рабочей среды.

Фигероа также смог, используя инъекцию стимула, скачать плейбук ChatGPT, содержащий директивы по взаимодействию с пользователями. Знакомство с внутренними механизмами ИИ-модели, по мнению эксперта, облегчает внедрение вредоносных подсказок и обход ограничений LLM.

«В документации эти возможности не отражены, — подчеркнул исследователь, комментируя свои находки для Dark Reading. — Полагаю, это просто недоработка проекта. В какой-то момент объявится 0-day, и тогда случится беда».

В ответ на запрос репортера представитель OpenAI заявил, что находки эксперта на уязвимость не тянут, и в подобном поведении ничего неожиданного нет.

MAX официально получил статус соцсети

Мессенджер MAX с 18 марта 2026 года получил статус социальной сети. Это важно прежде всего для владельцев крупных каналов: теперь страницы и каналы с аудиторией более 10 тысяч пользователей смогут работать в рамках уже действующих правил Роскомнадзора для соцсетей и получать в MAX маркировку A+ после регистрации через госреестр.

С 1 ноября 2024 года владельцы страниц и каналов с аудиторией свыше 10 тысяч подписчиков должны подавать сведения о себе в Роскомнадзор через «Госуслуги», а с 1 января 2025 года эта регистрация стала обязательной.

Для страниц, которые не внесены в реестр, действуют ограничения: на них нельзя размещать рекламу и собирать пожертвования, а другим каналам нельзя репостить их контент.

Теперь этот механизм полноценно дотянули и до MAX. На справочном сайте мессенджера прямо указано, что отметка A+ означает официальную регистрацию канала или сообщества с аудиторией от 10 тысяч подписчиков в реестре Роскомнадзора. После подтверждения такой заявки в профиле канала появляется соответствующая маркировка.

Оформление выглядит так: сначала нужно подать заявление через «Госуслуги», а затем в самом MAX пройти через специальный бот, выбрать канал и указать номер заявки. После одобрения со стороны Роскомнадзора канал получает отметку A+.

MAX также отдельно объясняет, что при повторном создании каналов с такой отметкой нужно снова отправлять заявку через бот, а если заявку не одобрили — проверить, совпадает ли номер телефона профиля MAX с номером, указанным при регистрации в РКН.

На практике это означает, что MAX всё сильнее встраивается в уже существующую российскую систему регулирования публичных площадок. Для авторов больших каналов новость скорее прикладная: если они хотят легально размещать рекламу, собирать донаты и в целом не выпадать из правил, теперь им придётся проходить тот же путь регистрации, что и на других крупных платформах.

RSS: Новости на портале Anti-Malware.ru