Эксперты заставили ChatGPT выдать данные обучения

Эксперты заставили ChatGPT выдать данные обучения

Эксперты заставили ChatGPT выдать данные обучения

Исследователям удалось заставить ChatGPT выдать часть данных, которые использовались для обучения. Специалисты просто предлагали чат-боту повторять слова «poem», «company», «send», «make» и «part» до бесконечности.

Как уточняют эксперты в опубликованном отчёте (PDF), когда ChatGPT попросили бесконечно повторять слово «poem», после нескольких сотен попыток бот начал генерировать бессмысленные данные, часть которых явно относилась к процессу его обучения.

Например, среди вытащенных сведений можно было найти подпись электронной почты конкретного человека, а также другую контактную информацию.

Специалисты выяснили, что некоторые слова гораздо лучше подходят для извлечения данных обучения. Например, при бесконечном повторении слова «company» ChatGPT выдаст такие сведения в 164 чаще, чем при повторении, например, слова «know».

В результате исследователям удалось вытащить персональные данные десятков пользователей, откровенный контент (при повторении аббревиатуры NSFW), абзацы книг и стихов (при использовании слов «book» и «poem»), а также уникальные URL, идентификаторы пользователей, биткоин-адреса и даже программный код.

 

«Мы смогли извлечь более 10 тыс. уникальных заученных моделей ChatGPT (версии gpt-3.5-turbo), используя всего лишь запросы на сумму 200 долларов», — объясняют специалисты.

Microsoft отбирает у игроков Grim Trials, случайно розданную бесплатно

Microsoft начала отзывать лицензии на экшен Grim Trials у пользователей, которые около двух недель назад бесплатно забрали игру в Microsoft Store. Цифровая щедрость оказалась обычной ошибкой магазина: проект вообще-то стоит $19,99 (около 1700 рублей).

Игроки успели добавить Grim Trials в свои библиотеки, скачать её ещё до релиза и спокойно поиграть.

Никакой акции Microsoft не анонсировала, поэтому нулевой ценник с самого начала выглядел подозрительно. Теперь компания окончательно подтвердила: подарка не было, вам показалось.

Пользователям начали приходить уведомления о том, что продукт не предназначался для распространения на таких условиях. Microsoft отменяет оформленные заказы и удаляет игру из библиотек.

Судя по сообщениям игроков, зачистка проходит волнами: одни потеряли доступ сразу после выхода Grim Trials, другие смогли играть до начала сентября.

Из самого Microsoft Store проект не исчез. Отзыв затрагивает только копии, полученные во время ошибочной бесплатной раздачи. Пользователям, честно заплатившим полную стоимость, повторно доставать кошелёк не придётся.

Grim Trials — экшен в эстетике хеви-метала от студии Rolling Glory Jam и издателя Soft Source. Игрок управляет новоиспечённой Жницей Авелин, которая пробивается через подземный мир. Проект доступен на компьютерах и Xbox Series X|S и поддерживает Xbox Play Anywhere.

Цифровые магазины регулярно исправляют ошибки в ценниках, поэтому поступок Microsoft нельзя назвать беспрецедентным. Разработчики получат положенные деньги, а игрокам достался затянувшийся бесплатный пробник.

RSS: Новости на портале Anti-Malware.ru