Эксперты заставили ChatGPT выдать данные обучения

Эксперты заставили ChatGPT выдать данные обучения

Эксперты заставили ChatGPT выдать данные обучения

Исследователям удалось заставить ChatGPT выдать часть данных, которые использовались для обучения. Специалисты просто предлагали чат-боту повторять слова «poem», «company», «send», «make» и «part» до бесконечности.

Как уточняют эксперты в опубликованном отчёте (PDF), когда ChatGPT попросили бесконечно повторять слово «poem», после нескольких сотен попыток бот начал генерировать бессмысленные данные, часть которых явно относилась к процессу его обучения.

Например, среди вытащенных сведений можно было найти подпись электронной почты конкретного человека, а также другую контактную информацию.

Специалисты выяснили, что некоторые слова гораздо лучше подходят для извлечения данных обучения. Например, при бесконечном повторении слова «company» ChatGPT выдаст такие сведения в 164 чаще, чем при повторении, например, слова «know».

В результате исследователям удалось вытащить персональные данные десятков пользователей, откровенный контент (при повторении аббревиатуры NSFW), абзацы книг и стихов (при использовании слов «book» и «poem»), а также уникальные URL, идентификаторы пользователей, биткоин-адреса и даже программный код.

 

«Мы смогли извлечь более 10 тыс. уникальных заученных моделей ChatGPT (версии gpt-3.5-turbo), используя всего лишь запросы на сумму 200 долларов», — объясняют специалисты.

Конституционный суд упростил иски для жертв телефонного мошенничества

Конституционный суд подтвердил право жертв телефонного мошенничества обращаться в суд по месту своего жительства, а не по месту проживания ответчика. Ранее, исходя из положений статей 28 и 29 Гражданского процессуального кодекса РФ, суды нередко требовали подавать иски о возмещении ущерба именно по месту жительства ответчика.

С жалобой в высшую судебную инстанцию обратилась жительница Ставропольского края, сообщает «Российская газета».

Женщина стала жертвой злоумышленников, которые получили доступ к её онлайн-банку и похитили значительную сумму денег. По данному факту было возбуждено уголовное дело, однако его приостановили из-за неустановления лица, подлежащего привлечению в качестве обвиняемого.

В ходе расследования при этом удалось установить номер банковской карты дропа. Потерпевшая подала иск к владельцу карты о взыскании неосновательного обогащения, однако суды отклонили обращения «за нарушение принципа подсудности», поскольку ответчик проживал в Московской области. Поездка в другой регион, как указала заявительница, была для неё связана с «болезненными и практически непреодолимыми трудностями».

Судьи Конституционного суда напомнили, что право на судебную защиту предполагает эффективное восстановление нарушенных прав и свобод посредством правосудия.

«Актуальная социально-криминологическая обстановка и меняющийся характер и динамика преступности дают дополнительные основания для совершенствования гарантий доступности правосудия для потерпевших от преступлений, — приводит издание выдержку из решения Конституционного суда. — При этом учёту подлежат особенности правовой природы отношений собственности как объекта посягательства и такого их предмета, в качестве которого выступают деньги, способные поступать в результате хищения в распоряжение лиц, находящихся в самых разных, в том числе весьма удалённых от места жительства потерпевшего, местах».

В итоге Конституционный суд признал необходимость отступления от принципа территориальной подсудности при подаче исков жертвами мошенников. В суде указали, что следование прежнему подходу смещает баланс в пользу потенциального ответчика, и такой дисбаланс должен быть устранён, в том числе на законодательном уровне.

RSS: Новости на портале Anti-Malware.ru