Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Песочница ChatGPT открывает доступ к файлам ОС и внутренней кухне LLM

Как оказалось, ИИ-бот OpenAI при правильных наводящих вопросах может слить дерево файлов и папок хост-системы, а также плейбук с правилами общения с пользователями. Возможны также загрузка и запуск программ, но только в пределах изолированной среды.

Недокументированные возможности песочницы ChatGPT, грозящие раскрытием конфиденциальной информации, обнаружил эксперт Mozilla Марко Фигероа (Marco Figueroa). Разработчики приняли отчет к сведению, но ужесточать ограничения по доступу не планируют.

В ходе работы над Python-проектом умный помощник выдал исследователю ошибку «directory not found» («каталог не найден»), которая и раскрыла наличие доступа к файловой системе. Заинтересовавшись, Фигероа попросил перечислить файлы, вставив в запрос строку list files (англоязычный аналог Linux-команды ls).

В ответ ChatGPT вывел список файлов и директорий, характерных для Linux: bin, dev, tmp, sys и т. п. Экспериментатор пришел к выводу, что ИИ-бот работал на каком-то дистрибутиве, скорее всего Debian, в контейнерной среде; конфигурационные данные содержались в папке /home/sandbox/.openai_internal/.

Также выяснилось, что расширенный доступ позволяет выполнять действия над файлами: загружать, скачивать, перемещать, запускать на исполнение. Так, Фигероа удалось загрузить и запустить в песочнице простенький Python-скрипт, выводящий на экран приветствие «Hello, World!» (в BleepingComputer поставили такой же опыт со сценарием поиска файлов TXT).

Подобные возможности, по словам эксперта, повышают прозрачность и функциональность, но создают риск злоупотреблений, который, впрочем, смягчает надежная изоляция рабочей среды.

Фигероа также смог, используя инъекцию стимула, скачать плейбук ChatGPT, содержащий директивы по взаимодействию с пользователями. Знакомство с внутренними механизмами ИИ-модели, по мнению эксперта, облегчает внедрение вредоносных подсказок и обход ограничений LLM.

«В документации эти возможности не отражены, — подчеркнул исследователь, комментируя свои находки для Dark Reading. — Полагаю, это просто недоработка проекта. В какой-то момент объявится 0-day, и тогда случится беда».

В ответ на запрос репортера представитель OpenAI заявил, что находки эксперта на уязвимость не тянут, и в подобном поведении ничего неожиданного нет.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Количество кибератак на автомобили в России в 2025 году выросло на 20%

Согласно исследованию АО «ГЛОНАСС» и компании «Технологии безопасности транспорта» (ТБТ), за восемь месяцев 2025 года зафиксировано 328 кибератак на автомобили. Это на 20 больше, чем за аналогичный период 2024 года. О 20-процентном росте в годовом выражении сообщили также в компании «Спикател», однако абсолютные значения там не раскрыли.

Отчёт по исследованию оказался в распоряжении «Ведомостей». Данные собирались из разных источников: как открытых (ИТ-компании, органы власти), так и закрытых — включая результаты bug bounty-программ и информацию из профессиональных сообществ специалистов по ИТ и ИБ.

Анализ показал, что 93% атак совершаются удалённо. В 85% случаев злоумышленники эксплуатируют уязвимости Bluetooth или облачных сервисов. Такие атаки позволяют дистанционно управлять автомобилем или даже угнать его. В числе часто используемых векторов названы системы сенсорного слияния (лидары и радары), технологии SDV (Software Defined Vehicles, программно определяемый функциональность автомобиля) и AV (Autonomous Vehicles, системы автономного вождения).

По словам руководителя направления кибербезопасности транспортных средств АО «ГЛОНАСС» Владимира Педанова, особенно востребованы взломы SDV-сервисов, которые автопроизводители предоставляют за дополнительную плату. Так, Volkswagen, Tesla и John Deere распространяют подобные функции через подписки. Например, инструменты для взлома автопилота John Deere появились всего через месяц после начала его коммерческого распространения.

Взлом технологий автопилота, подчеркнул Педанов, гораздо опаснее, так как напрямую влияет на безопасность движения. Однако исполнительный директор ассоциации «Консорциум предприятий в сфере автомобильных электронных приборов и телематики» Дмитрий Корначев считает, что ущерб от таких атак пока ограничен из-за невысокой зрелости телематических систем.

Главным мотивом злоумышленников становится блокировка систем автомобиля ради вымогательства. При этом сами автопроизводители также могут использовать схожие механизмы против «серых» машин.

Генеральный директор группы компаний ST IT, эксперт рынка TechNet НТИ Антон Аверьянов указал, что перспективным вектором атак остаются внутренние сервисы автопроизводителей, где также выявляются уязвимости. Так, в сентябре 2024 года была обнаружена брешь в инфраструктуре KIA, затронувшая даже автомобили, владельцы которых не подключали KIA Connect. Однако такие случаи редки и быстро устраняются.

Руководитель ИБ-направления «Телеком биржи» Александр Блезнеков назвал системной проблемой крайне низкий уровень защищённости бортовых систем. Во многих автомобилях средства защиты отсутствуют вовсе, что делает их уязвимыми как для удалённых атак через интернет, так и для атак в непосредственной близости к машине.

Как отметил директор департамента расследований T.Hunter Игорь Бедеров, современные автомобили фактически превратились в компьютеры на колёсах. Они оснащены множеством систем, подключённых к интернету через сотовую связь или Wi-Fi, что значительно расширяет поверхность атаки. При этом автопроизводители и их поставщики становятся привлекательными целями для финансово мотивированных злоумышленников.

В то же время подобные угрозы актуальны лишь для относительно небольшой части автопарка. По данным страховых компаний, на которые ссылаются «Ведомости», как минимум 70% автомобилей в России старше 10 лет, и для них киберриски фактически не представляют опасности.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru