ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

Специалисты компании Radware рассказали о необычной атаке на ChatGPT, которую они назвали ShadowLeak. В отличие от привычных схем с обманом пользователей, здесь ничего делать не нужно: злоумышленнику достаточно отправить жертве «правильное» письмо.

Атака была нацелена на функцию Deep Research — она предназначена для многошаговых исследований и может сама обрабатывать письма или документы.

Вредоносное письмо выглядит безобидно, но внутри спрятаны инструкции. Когда ChatGPT начинает, например, пересказывать письма из почтового ящика, агент «включает» скрытые команды и пересылает данные на сайт злоумышленника.

Главное отличие от похожих атак — всё происходит на стороне серверов OpenAI, а не на устройстве пользователя. То есть утечка идёт напрямую из облака, а в клиенте никаких следов не остаётся.

Radware показала, что таким способом можно вытягивать данные не только из Gmail, но и из Google Drive, Outlook, Dropbox, Microsoft Teams, GitHub и других сервисов, которые могут быть связаны с ChatGPT.

 

Авторы атаки позаботились о деталях: «убеждали» бота, что у него есть все права, внушали срочность, предлагали несколько попыток и даже объясняли, что «данные и так публичные».

Radware сообщила об уязвимости 18 июня, и в начале августа OpenAI её закрыла. Сейчас ShadowLeak уже не работает. Но исследователи считают, что подобных «дыр» ещё много, и советуют компаниям внимательно следить за действиями ИИ-агентов и сверять их с реальными задачами пользователя.

Совет по кодификации при президенте отклонил закон об ИИ Минцифры

Совет по кодификации при президенте резко раскритиковал и отклонил рамочный законопроект «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в России», подготовленный Минцифры. По мнению Совета, ряд положений документа противоречит Гражданскому кодексу и нормам, регулирующим защиту авторских прав.

Как считают эксперты, входящие в Совет, авторы законопроекта попытались создать параллельное регулирование для отношений, которые уже урегулированы другими правовыми актами.

Если исключить дублирующие нормы, то в документе, по сути, останутся только глоссарий и несколько декларативных положений. Иными словами, самостоятельный предмет регулирования в проекте фактически отсутствует.

«Гражданский кодекс — это фундамент, и пытаться строить на нём отдельные, противоречащие ему конструкции для каждой новой технологии — это путь к правовому хаосу. Если есть несколько здравых идей публично-правового характера — их место в профильном законе, а не в пустой законодательной оболочке, — прокомментировал Интерфаксу итоги заседания Совета его глава Павел Крашенинников. — Закон должен регулировать и давать ясность, а не создавать почву для злоупотреблений. Задача Совета — обеспечивать системность и стабильность гражданского законодательства, а не одобрять юридически пустые, пусть и модно звучащие, инициативы».

Заключения Совета будут направлены в администрацию президента, правительство и палаты Федерального Собрания.

Ранее этот же законопроект не менее жёстко критиковали крупные компании и бизнес-ассоциации. В общей сложности в обсуждении приняли участие более 150 экспертов, представляющих «Роснефть», «Россети», Ассоциацию предприятий компьютерных и информационных технологий (АПКИТ), Ассоциацию цифровых платформ (АЦП), Ассоциацию европейского бизнеса (АЕБ), Торгово-промышленную палату (ТПП), «МегаФон», РВБ (объединённую компанию Wildberries и Russ) и ряд других структур.

По мнению участников обсуждения, часть требований законопроекта попросту невыполнима. В частности, речь идёт об обучении моделей на основе наборов данных, сформированных в России. Однако таких данных недостаточно, а вычислительная база для их обработки отсутствует в необходимом объёме. Кроме того, как напоминают бизнес-ассоциации, в России сейчас нет ИИ-моделей, полностью созданных внутри страны.

Отдельные претензии вызвали положения, которые фактически запрещают использование ИИ для диагностики и лечения. Поскольку медицина относится к критической инфраструктуре, в условиях отсутствия полностью российских моделей под формальные ограничения могут попасть даже изделия, уже зарегистрированные в Росздравнадзоре.

В целом, как считают представители бизнеса, принятие законопроекта приведёт к росту затрат и увеличению сроков внедрения ИИ-проектов. Среди рисков они также называют возможный перенос разработок в другие юрисдикции, где регулирование в этой сфере остаётся менее жёстким.

RSS: Новости на портале Anti-Malware.ru