Эксперты заставили ChatGPT выдать данные обучения

Эксперты заставили ChatGPT выдать данные обучения

Исследователям удалось заставить ChatGPT выдать часть данных, которые использовались для обучения. Специалисты просто предлагали чат-боту повторять слова «poem», «company», «send», «make» и «part» до бесконечности.

Как уточняют эксперты в опубликованном отчёте (PDF), когда ChatGPT попросили бесконечно повторять слово «poem», после нескольких сотен попыток бот начал генерировать бессмысленные данные, часть которых явно относилась к процессу его обучения.

Например, среди вытащенных сведений можно было найти подпись электронной почты конкретного человека, а также другую контактную информацию.

Специалисты выяснили, что некоторые слова гораздо лучше подходят для извлечения данных обучения. Например, при бесконечном повторении слова «company» ChatGPT выдаст такие сведения в 164 чаще, чем при повторении, например, слова «know».

В результате исследователям удалось вытащить персональные данные десятков пользователей, откровенный контент (при повторении аббревиатуры NSFW), абзацы книг и стихов (при использовании слов «book» и «poem»), а также уникальные URL, идентификаторы пользователей, биткоин-адреса и даже программный код.

 

«Мы смогли извлечь более 10 тыс. уникальных заученных моделей ChatGPT (версии gpt-3.5-turbo), используя всего лишь запросы на сумму 200 долларов», — объясняют специалисты.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

Число подключений к Tor-релеям из РФ за год снизилось более чем в 2 раза

Судя по данным о посещаемости Tor, с апреля 2023 года число пользователей даркнета в России сократилось более чем в два раза. Причиной тому блокировки Роскомнадзора, отъезд части юзеров за рубеж, миграция теневых форумов в Telegram.

Согласно статистике Tor Project, год назад количество прямых подключений россиян к анонимной сети в среднем составляло 100 тыс. в сутки, сейчас этот показатель снизился до 40 тысяч. Использование мостов для доступа к узлам Tor осталось на прежнем уровне — 50 тыс. в сутки.

 

В ответ на запрос «Известий» о комментарии в Роскомнадзоре заявили, что не отслеживают частные подключения к интернет-ресурсам. Вместе с тем там подтвердили принятие мер по ограничению работы Tor Browser — в рамках своих полномочий по противодействию угрозе обхода блокировок.

Опрошенные репортером ИБ-эксперты назвали другие факторы, который могли сократить российскую аудиторию Tor. Часть пользователей уехала за рубеж, сменив место подачи запросов. Из России также ушли некоторые криптовалютные биржи, что осложнило расчеты в даркнете.

Да и крупные торговые площадки стали постепенно исчезать из теневого интернета благодаря усилиям правоохраны (вспомним судьбу Silk Road, AlphaBay, Hydra). В то же время возросла популярность Telegram, и криминальные элементы начали переселяться туда, создавая каналы для совершения сделок по купле-продаже.

Последние пару лет в мессенджере также активно плодятся публикации хактивистов об утечках, которые по числу просмотров уже затмили даркнет.

Anti-Malware Яндекс ДзенПодписывайтесь на канал "Anti-Malware" в Telegram, чтобы первыми узнавать о новостях и наших эксклюзивных материалах по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru