Эксперты заставили ChatGPT выдать данные обучения

Эксперты заставили ChatGPT выдать данные обучения

Эксперты заставили ChatGPT выдать данные обучения

Исследователям удалось заставить ChatGPT выдать часть данных, которые использовались для обучения. Специалисты просто предлагали чат-боту повторять слова «poem», «company», «send», «make» и «part» до бесконечности.

Как уточняют эксперты в опубликованном отчёте (PDF), когда ChatGPT попросили бесконечно повторять слово «poem», после нескольких сотен попыток бот начал генерировать бессмысленные данные, часть которых явно относилась к процессу его обучения.

Например, среди вытащенных сведений можно было найти подпись электронной почты конкретного человека, а также другую контактную информацию.

Специалисты выяснили, что некоторые слова гораздо лучше подходят для извлечения данных обучения. Например, при бесконечном повторении слова «company» ChatGPT выдаст такие сведения в 164 чаще, чем при повторении, например, слова «know».

В результате исследователям удалось вытащить персональные данные десятков пользователей, откровенный контент (при повторении аббревиатуры NSFW), абзацы книг и стихов (при использовании слов «book» и «poem»), а также уникальные URL, идентификаторы пользователей, биткоин-адреса и даже программный код.

 

«Мы смогли извлечь более 10 тыс. уникальных заученных моделей ChatGPT (версии gpt-3.5-turbo), используя всего лишь запросы на сумму 200 долларов», — объясняют специалисты.

PT Container Security ускорили в 3,5 раза и расширили контроль рантайма

Positive Technologies выпустила обновление решения для защиты контейнерных сред PT Container Security — версию 0.9. В релизе разработчики сосредоточились на практичных вещах: ускорили обработку событий, упростили мониторинг и дали администраторам больше гибкости при настройке рантайм-контролей.

Главное изменение — переработка механизма анализа событий рантайма. За счёт нового алгоритма продукт, по внутренним тестам компании, стал обрабатывать примерно в 3,5 раза больше событий в секунду без увеличения потребления ресурсов.

Это позволяет системе стабильнее работать под высокой нагрузкой и лучше справляться с пиковыми потоками событий.

В версии 0.9 также расширили возможности настройки источников событий. В стандартной поставке есть набор лицензированных источников для контроля контейнерных сред, но теперь в специальном «экспертном режиме» администраторы могут менять существующие источники или добавлять свои — с учётом особенностей конкретной инфраструктуры.

 

Для мониторинга состояния самого продукта и его компонентов PT Container Security теперь интегрирован с Grafana. Сотрудники ИБ могут смотреть наглядные дашборды с показателями работы детекторов, API, обновлений лицензий и баз уязвимостей. Для контроля внешних сервисов добавлена поддержка Prometheus.

Обновление затронуло и детекторы безопасности: их общее количество выросло до 38. Среди новых — правила, помогающие выявлять попытки обхода защитных механизмов контейнера, например через создание жёстких ссылок или попытки повышения привилегий. Для их работы используется актуальная версия eBPF-движка Tetragon 1.5.0.

Кроме того, разработчики упростили работу с документацией: описания API, а также руководства администратора и пользователя теперь можно скачать в формате PDF. Для планирования ресурсов добавлены формулы расчёта необходимого объёма дискового пространства.

Чтобы воспользоваться всеми новыми возможностями, продукт нужно обновить до версии 0.9.

RSS: Новости на портале Anti-Malware.ru