Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Как оказалось, ИИ-бот OpenAI при правильных наводящих вопросах может слить дерево файлов и папок хост-системы, а также плейбук с правилами общения с пользователями. Возможны также загрузка и запуск программ, но только в пределах изолированной среды.

Недокументированные возможности песочницы ChatGPT, грозящие раскрытием конфиденциальной информации, обнаружил эксперт Mozilla Марко Фигероа (Marco Figueroa). Разработчики приняли отчет к сведению, но ужесточать ограничения по доступу не планируют.

В ходе работы над Python-проектом умный помощник выдал исследователю ошибку «directory not found» («каталог не найден»), которая и раскрыла наличие доступа к файловой системе. Заинтересовавшись, Фигероа попросил перечислить файлы, вставив в запрос строку list files (англоязычный аналог Linux-команды ls).

В ответ ChatGPT вывел список файлов и директорий, характерных для Linux: bin, dev, tmp, sys и т. п. Экспериментатор пришел к выводу, что ИИ-бот работал на каком-то дистрибутиве, скорее всего Debian, в контейнерной среде; конфигурационные данные содержались в папке /home/sandbox/.openai_internal/.

Также выяснилось, что расширенный доступ позволяет выполнять действия над файлами: загружать, скачивать, перемещать, запускать на исполнение. Так, Фигероа удалось загрузить и запустить в песочнице простенький Python-скрипт, выводящий на экран приветствие «Hello, World!» (в BleepingComputer поставили такой же опыт со сценарием поиска файлов TXT).

Подобные возможности, по словам эксперта, повышают прозрачность и функциональность, но создают риск злоупотреблений, который, впрочем, смягчает надежная изоляция рабочей среды.

Фигероа также смог, используя инъекцию стимула, скачать плейбук ChatGPT, содержащий директивы по взаимодействию с пользователями. Знакомство с внутренними механизмами ИИ-модели, по мнению эксперта, облегчает внедрение вредоносных подсказок и обход ограничений LLM.

«В документации эти возможности не отражены, — подчеркнул исследователь, комментируя свои находки для Dark Reading. — Полагаю, это просто недоработка проекта. В какой-то момент объявится 0-day, и тогда случится беда».

В ответ на запрос репортера представитель OpenAI заявил, что находки эксперта на уязвимость не тянут, и в подобном поведении ничего неожиданного нет.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В России могут полностью запретить госзакупки зарубежной электроники

Министерство промышленности и торговли рассматривает возможность полного запрета на закупку зарубежной компьютерной техники для государственных нужд. Обсуждение инициативы ведётся с крупнейшими отечественными производителями.

По мнению представителей отрасли, российские компании способны обеспечить достаточный ассортимент оборудования.

Как сообщает «Коммерсантъ», с соответствующим предложением на совещании Минпромторга 22 марта в Тверской области выступила глава консорциума «Вычислительная техника» (АНО ВТ, в который входят компании «Аквариус», Yadro и Depo) Светлана Легостаева. По итогам встречи АНО ВТ поручено подготовить перечень наименований продукции, производителей и объёмов поставок.

Сейчас действующее законодательство разрешает госзаказчикам приобретать иностранную технику только при отсутствии российских аналогов. Тем не менее, согласно данным системы «Контур.Закупки», в 2024 году объём закупок иностранного оборудования для нужд государства составил 79,6 млрд рублей — на 1,2% меньше, чем в 2023 году. При этом в количественном выражении объёмы выросли на 20%.

Президент Ассоциации предприятий радиоэлектроники, ИТ, цифровых инноваций и инжиниринга Ирина Митина подчеркнула, что главным условием для ужесточения ограничений должна быть реальная готовность российских производителей удовлетворить существующий спрос:

«К запретам нужно подходить избирательно — стремиться к их внедрению, но при этом быть полностью уверенными в наличии необходимых мощностей и номенклатуры».

Инициативу поддержал директор по информационным и цифровым технологиям госкорпорации «Росатом» Евгений Абакумов:

«На наш взгляд, такая мера создаст прочную основу для развития отечественной промышленности и позволит минимизировать риски, связанные с использованием иностранных технологий и ПО».

В то же время в «Ростелекоме» считают, что сам по себе запрет не решит системные проблемы. По мнению представителя компании, российским производителям необходимы долгосрочные контракты, которые обеспечат стабильную загрузку производственных мощностей и устойчивое развитие отрасли.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru