Эксперты заставили ChatGPT выдать данные обучения

Эксперты заставили ChatGPT выдать данные обучения

Эксперты заставили ChatGPT выдать данные обучения

Исследователям удалось заставить ChatGPT выдать часть данных, которые использовались для обучения. Специалисты просто предлагали чат-боту повторять слова «poem», «company», «send», «make» и «part» до бесконечности.

Как уточняют эксперты в опубликованном отчёте (PDF), когда ChatGPT попросили бесконечно повторять слово «poem», после нескольких сотен попыток бот начал генерировать бессмысленные данные, часть которых явно относилась к процессу его обучения.

Например, среди вытащенных сведений можно было найти подпись электронной почты конкретного человека, а также другую контактную информацию.

Специалисты выяснили, что некоторые слова гораздо лучше подходят для извлечения данных обучения. Например, при бесконечном повторении слова «company» ChatGPT выдаст такие сведения в 164 чаще, чем при повторении, например, слова «know».

В результате исследователям удалось вытащить персональные данные десятков пользователей, откровенный контент (при повторении аббревиатуры NSFW), абзацы книг и стихов (при использовании слов «book» и «poem»), а также уникальные URL, идентификаторы пользователей, биткоин-адреса и даже программный код.

 

«Мы смогли извлечь более 10 тыс. уникальных заученных моделей ChatGPT (версии gpt-3.5-turbo), используя всего лишь запросы на сумму 200 долларов», — объясняют специалисты.

От проектирования до кибербезопасности: чем запомнилась АВИАЦИФРА’2026

В Санкт-Петербурге завершилась всероссийская конференция «АВИАЦИФРА’2026», посвящённая цифровым технологиям в авиастроении. Мероприятие прошло 19–20 марта и собрало 740 специалистов, включая представителей 75 организаций отрасли. За два дня участники представили 146 докладов, а в центре обсуждения были ИТ-подходы, которые могут повлиять на проектирование, производство и эксплуатацию авиационной техники.

В этом году конференция снова стала площадкой для разговора между ИТ-специалистами и представителями авиастроения, авиакомпаний, профильных вузов, научных организаций и органов власти.

Программа была разбита на пять основных треков: управление цифровыми технологиями, проектирование авиационной техники, производство, эксплуатация, а также ИТ-инфраструктура и кибербезопасность.

Отдельный акцент организаторы сделали на так называемом сквозном треке. Его задача — помочь участникам отрасли обсуждать цифровые процессы не по отдельности, а как единую цепочку, проходящую через весь жизненный цикл воздушного судна. Именно тема связности между этапами работы и разными участниками кооперации стала одной из заметных в повестке.

В пленарном заседании приняли участие вице-губернатор Санкт-Петербурга Владимир Княгинин и заместитель министра цифрового развития, связи и массовых коммуникаций России Сергей Кучушев. 20 марта также прошёл тематический день индустриальных центров компетенций — ИЦК «Авиастроение», ИЦК «Двигателестроение» и ИЦК «БАС». В этот день участники обсуждали результаты работы ИЦК и реализацию значимых отраслевых проектов.

 

Как отметил глава оргкомитета «АВИАЦИФРА» Александр Краснов, формат конференции постепенно меняется: если раньше в центре внимания был в основном обмен опытом между авиапроизводителями, то теперь заметнее стал диалог между бизнес-заказчиками и ИТ-командами. По его словам, в 2026 году к обсуждению активнее подключились разработчики беспилотных авиационных систем, авиакомпании, а также представители авиационной отрасли одной из стран БРИКС.

Среди модераторов и ключевых спикеров были руководители и специалисты ОДК, ОАК, «Вертолётов России», «Технодинамики», а также представители ФАУ «ЦАГИ», СПбПУ, МФТИ и Самарского университета имени С. П. Королёва. То есть разговор шёл не только со стороны ИТ, но и со стороны инженерной, производственной и научной среды.

Директор по цифровой трансформации «Технодинамики» Роман Марковский в ходе конференции отметил, что цифровая трансформация в отрасли начинается не столько с самих технологий, сколько с совместной работы инженеров и ИТ-специалистов. По его словам, именно в таком взаимодействии появляются решения, которые действительно применимы на практике.

 

Во время конференции также подписали соглашение о сотрудничестве между ГосНИИАС и ЦИТМ Экспонента. Кроме того, была анонсирована премия «АВИАЦИФРА’2026», которой в следующем году планируют отмечать достижения в цифровой трансформации авиационной отрасли.

В целом «АВИАЦИФРА’2026» показала, что тема цифровизации авиастроения уже давно вышла за рамки отдельных ИТ-проектов. Сейчас речь всё чаще идёт о том, как связать между собой проектирование, производство, эксплуатацию и сопровождение техники, чтобы цифровые инструменты работали не точечно, а на уровне всей отрасли.

RSS: Новости на портале Anti-Malware.ru