Эксперты заставили ChatGPT выдать данные обучения

Эксперты заставили ChatGPT выдать данные обучения

Эксперты заставили ChatGPT выдать данные обучения

Исследователям удалось заставить ChatGPT выдать часть данных, которые использовались для обучения. Специалисты просто предлагали чат-боту повторять слова «poem», «company», «send», «make» и «part» до бесконечности.

Как уточняют эксперты в опубликованном отчёте (PDF), когда ChatGPT попросили бесконечно повторять слово «poem», после нескольких сотен попыток бот начал генерировать бессмысленные данные, часть которых явно относилась к процессу его обучения.

Например, среди вытащенных сведений можно было найти подпись электронной почты конкретного человека, а также другую контактную информацию.

Специалисты выяснили, что некоторые слова гораздо лучше подходят для извлечения данных обучения. Например, при бесконечном повторении слова «company» ChatGPT выдаст такие сведения в 164 чаще, чем при повторении, например, слова «know».

В результате исследователям удалось вытащить персональные данные десятков пользователей, откровенный контент (при повторении аббревиатуры NSFW), абзацы книг и стихов (при использовании слов «book» и «poem»), а также уникальные URL, идентификаторы пользователей, биткоин-адреса и даже программный код.

 

«Мы смогли извлечь более 10 тыс. уникальных заученных моделей ChatGPT (версии gpt-3.5-turbo), используя всего лишь запросы на сумму 200 долларов», — объясняют специалисты.

Касаткин снова в Москве: дело о кибератаках закончилось обменом

Российский баскетболист Даниил Касаткин вернулся в Россию. В ночь на 8 января его освободили из французской тюрьмы, после чего спортсмен сразу вылетел в Москву. Информацию подтвердили и в ФСБ, и адвокат Касаткина Фредерик Бело.

По данным спецслужбы, освобождение стало частью обмена: Касаткина обменяли на осуждённого в России француза Лорана Винатье, ранее признанного иноагентом. Сам Даниил уже находится в Москве.

Адвокат спортсмена рассказал, что ключевую роль в этой истории сыграло решение французских властей — министр обороны Франции Себстьян Лекорню не подписал указ об экстрадиции Касаткина в США, хотя ранее соответствующее решение принял суд.

«Благодаря упорной работе адвокатов Даниил Касаткин сегодня ночью был отпущен из тюрьмы, его посадили на самолёт, и он уже приземлился в Москве», — заявил Бело в комментарии «Известиям».

Напомним, Касаткина задержали летом прошлого года в одном из аэропортов Парижа по запросу американской стороны. В США его подозревали в причастности к киберпреступлениям — речь шла о возможном участии в деятельности группировки, связанной с программами-вымогателями. Защита настаивала, что злоумышленники могли использовать компьютер спортсмена без его ведома.

Несмотря на это, Парижский суд 29 октября постановил экстрадировать Касаткина в США, а ходатайство об освобождении под судебный надзор ранее было отклонено без объяснения причин. Позже адвокат сообщал, что спортсмен не будет оспаривать решение суда — вероятно, именно на этом фоне и активизировались переговоры об обмене.

История Касаткина стала ещё одним эпизодом в цепочке сложных международных дел, где спорт, политика и киберобвинения неожиданно переплетаются. И, судя по всему, диалог по заключённым между Россией и Западом — пусть и негласно — продолжается.

RSS: Новости на портале Anti-Malware.ru