Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Как оказалось, ИИ-бот OpenAI при правильных наводящих вопросах может слить дерево файлов и папок хост-системы, а также плейбук с правилами общения с пользователями. Возможны также загрузка и запуск программ, но только в пределах изолированной среды.

Недокументированные возможности песочницы ChatGPT, грозящие раскрытием конфиденциальной информации, обнаружил эксперт Mozilla Марко Фигероа (Marco Figueroa). Разработчики приняли отчет к сведению, но ужесточать ограничения по доступу не планируют.

В ходе работы над Python-проектом умный помощник выдал исследователю ошибку «directory not found» («каталог не найден»), которая и раскрыла наличие доступа к файловой системе. Заинтересовавшись, Фигероа попросил перечислить файлы, вставив в запрос строку list files (англоязычный аналог Linux-команды ls).

В ответ ChatGPT вывел список файлов и директорий, характерных для Linux: bin, dev, tmp, sys и т. п. Экспериментатор пришел к выводу, что ИИ-бот работал на каком-то дистрибутиве, скорее всего Debian, в контейнерной среде; конфигурационные данные содержались в папке /home/sandbox/.openai_internal/.

Также выяснилось, что расширенный доступ позволяет выполнять действия над файлами: загружать, скачивать, перемещать, запускать на исполнение. Так, Фигероа удалось загрузить и запустить в песочнице простенький Python-скрипт, выводящий на экран приветствие «Hello, World!» (в BleepingComputer поставили такой же опыт со сценарием поиска файлов TXT).

Подобные возможности, по словам эксперта, повышают прозрачность и функциональность, но создают риск злоупотреблений, который, впрочем, смягчает надежная изоляция рабочей среды.

Фигероа также смог, используя инъекцию стимула, скачать плейбук ChatGPT, содержащий директивы по взаимодействию с пользователями. Знакомство с внутренними механизмами ИИ-модели, по мнению эксперта, облегчает внедрение вредоносных подсказок и обход ограничений LLM.

«В документации эти возможности не отражены, — подчеркнул исследователь, комментируя свои находки для Dark Reading. — Полагаю, это просто недоработка проекта. В какой-то момент объявится 0-day, и тогда случится беда».

В ответ на запрос репортера представитель OpenAI заявил, что находки эксперта на уязвимость не тянут, и в подобном поведении ничего неожиданного нет.

В России создадут уникальную базу IMEI для контроля мобильных устройств

Минцифры планирует в 2026 году запустить базу уникальных номеров мобильных устройств — IMEI. Об этом рассказал заместитель главы министерства Дмитрий Угнивенко на заседании Общественного совета при Минцифры.

По его словам, которые передаёт «Интерфакс», идея в том, чтобы ввести учёт IMEI — уникальных номеров, которые есть у каждого мобильного устройства, будь то смартфон, планшет, умные часы или модем. В отличие от сим-карты, IMEI привязан именно к самому аппарату и не меняется при смене оператора.

В министерстве рассчитывают, что такая база позволит точнее определять, где и как используется мобильная связь. В частности, это может помочь при обеспечении безопасности в условиях угрозы беспилотников.

Если IMEI будет связан с конкретным номером, можно будет достоверно понимать, что сим-карта используется обычным абонентом, а не, например, в БПЛА.

Как отметил Угнивенко, более точная идентификация устройств в перспективе может смягчить текущие ограничения. Речь идёт о ситуациях, когда в целях безопасности временно отключается мобильный интернет и начинают работать так называемые «белые списки» сайтов, которые формирует Минцифры.

Сейчас для снижения рисков уже применяются дополнительные меры. В России действует период «охлаждения» для иностранных сим-карт, а также для сим-карт российских операторов, которые попали в страну из-за рубежа. Всё это призвано усложнить использование мобильной связи в потенциально опасных сценариях.

IMEI (International Mobile Equipment Identity) — это 15-значный номер, который однозначно идентифицирует устройство, а не владельца или сим-карту. В Минцифры подчёркивают, что именно эта особенность делает IMEI удобным инструментом для более точечного контроля без тотальных ограничений для всех пользователей.

Кроме того, власти России запускают масштабную систему противодействия кибермошенничеству, о чём сегодня рассказал премьер-министр Михаил Мишустин на стратегической сессии, посвящённой борьбе с цифровыми преступлениями.

RSS: Новости на портале Anti-Malware.ru