Эксперты заставили ChatGPT выдать данные обучения

Эксперты заставили ChatGPT выдать данные обучения

Эксперты заставили ChatGPT выдать данные обучения

Исследователям удалось заставить ChatGPT выдать часть данных, которые использовались для обучения. Специалисты просто предлагали чат-боту повторять слова «poem», «company», «send», «make» и «part» до бесконечности.

Как уточняют эксперты в опубликованном отчёте (PDF), когда ChatGPT попросили бесконечно повторять слово «poem», после нескольких сотен попыток бот начал генерировать бессмысленные данные, часть которых явно относилась к процессу его обучения.

Например, среди вытащенных сведений можно было найти подпись электронной почты конкретного человека, а также другую контактную информацию.

Специалисты выяснили, что некоторые слова гораздо лучше подходят для извлечения данных обучения. Например, при бесконечном повторении слова «company» ChatGPT выдаст такие сведения в 164 чаще, чем при повторении, например, слова «know».

В результате исследователям удалось вытащить персональные данные десятков пользователей, откровенный контент (при повторении аббревиатуры NSFW), абзацы книг и стихов (при использовании слов «book» и «poem»), а также уникальные URL, идентификаторы пользователей, биткоин-адреса и даже программный код.

 

«Мы смогли извлечь более 10 тыс. уникальных заученных моделей ChatGPT (версии gpt-3.5-turbo), используя всего лишь запросы на сумму 200 долларов», — объясняют специалисты.

Гознак хочет усилить защиту паспортов с помощью лазероактивных материалов

Гознак решил не ограничиваться выпуском банкнот, паспортов и защитных элементов. Компания работает над созданием новых лазероактивных материалов, которые в перспективе могут использоваться при производстве документов нового поколения и других защищенных изделий.

Об этом в интервью РИА Новости рассказал генеральный директор Гознака Аркадий Трачук.

По его словам, технология выросла из решений, которые уже применяются при выпуске биометрических паспортов. Сегодня информация на странице с персональными данными наносится не обычной печатью, а с помощью лазера. Луч активирует специальные материалы внутри защитной пленки, формируя необходимые данные и изображения.

Теперь специалисты Гознака пытаются пойти дальше.

«У нас сейчас идут эксперименты по созданию новых лазероактивных материалов», — сообщил Аркадий Трачук.

Компания задалась вопросом, можно ли использовать подобные технологии не только в документах, но и в композитных материалах. Первые испытания уже проведены, и результаты разработчиков обнадежили.

В Гознаке рассчитывают, что проект удастся довести до промышленного образца уже до конца текущего года.

Если технология подтвердит свою эффективность, в распоряжении производителей появится новый класс материалов с возможностью лазерной персонализации и дополнительной защитой от подделок. Одним из перспективных направлений применения могут стать современные ID-карты и другие документы с повышенными требованиями к безопасности.

Подробности о составе новых материалов и принципах их работы пока не раскрываются. Однако сам факт того, что Гознак экспериментирует с лазероактивными композитами, показывает: борьба с подделками постепенно выходит за пределы привычной полиграфии и всё больше смещается в область высоких технологий и материаловедения.

RSS: Новости на портале Anti-Malware.ru