В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

Исследователи из компании Tenable сообщили о серии уязвимостей, затрагивающих модели GPT-4o и GPT-5, которые лежат в основе ChatGPT. Эти дыры позволяют злоумышленникам похищать личные данные пользователей из памяти и истории переписки бота — без ведома самих пользователей.

Всего специалисты выявили семь векторов атак, часть из которых OpenAI уже устранила. Главная проблема — так называемые «непрямые инъекции промпта» (indirect prompt injection).

С их помощью можно обмануть искусственный интеллект и заставить его выполнять вредоносные инструкции, даже если пользователь ничего не подозревает.

Среди найденных методов — внедрение команд через вредоносные сайты, запросы к ChatGPT с поддельными ссылками или командами, маскированными под разрешённые домены (например, через bing.com), а также скрытие вредоносных инструкций в коде веб-страниц. В одном из сценариев атаки злоумышленник мог «отравить» память ChatGPT, добавив туда свои команды через сайт, который пользователь попросил бота кратко пересказать.

Подобные инъекции не требуют от пользователя кликов или загрузки файлов — достаточно обычного запроса вроде «расскажи, что написано на этом сайте». Если страница уже проиндексирована поисковиком, ИИ мог выполнить вредоносный код автоматически.

 

Tenable отмечает, что такие атаки — проблема не только OpenAI. За последние месяцы исследователи обнаруживали похожие уязвимости в Claude, Copilot, и других ИИ-инструментах. Некоторые позволяли похищать данные, обходить фильтры безопасности или подменять ответы модели.

По словам экспертов, полностью устранить угрозу инъекций промпта в ближайшее время вряд ли удастся. Они рекомендуют разработчикам ИИ-сервисов тщательнее проверять механизмы безопасности и фильтры URL, чтобы свести риски к минимуму.

Не так давно мы рассуждали на тему «можно ли доверять GenAI». Рассматривали галлюцинации и контроль достоверности ИИ.

В Госдуме предложили штрафовать за сталкинг и навязчивое преследование

Глава комитета Госдумы по труду, социальной политике и делам ветеранов Ярослав Нилов предложил ввести в Кодекс об административных правонарушениях (КоАП) отдельную статью, предусматривающую ответственность за навязчивое преследование человека против его воли — сталкинг.

Как сообщает РИА Новости, законопроект о внесении изменений в КоАП уже подготовлен и направлён на согласование. Документ оказался в распоряжении агентства.

В пояснительной записке отмечается, что в российском законодательстве до сих пор отсутствует чёткое определение навязчивого преследования. Из-за этого жертвы сталкинга сталкиваются с серьёзными трудностями при попытке привлечь преследователей к ответственности в рамках действующих норм.

По словам Ярослава Нилова, закрепление соответствующей статьи позволит пострадавшим обращаться к районному прокурору по месту совершения правонарушения. После этого дело об административном правонарушении будет рассматриваться мировым судьёй.

При этом отдельные прецеденты привлечения к ответственности за сталкинг в России уже были. Так, в феврале 2025 года была оштрафована студентка, преследовавшая однокурсника, однако для этого потребовались значительные усилия и время.

«Навязчивое преследование, то есть действия, направленные на систематическое нежелательное внимание к человеку против его воли, включая слежку, телефонные звонки, СМС-сообщения, угрозы и запугивания, в том числе с использованием информационно-телекоммуникационных сетей, включая сеть “Интернет”, вызывающие психоэмоциональное напряжение, дискомфорт, страх или тревогу, влечёт предупреждение или наложение административного штрафа в размере двух тысяч рублей», — приводят РИА Новости выдержку из текста законопроекта.

В случае повторного нарушения предлагается увеличить штраф до пяти тысяч рублей либо назначить административный арест сроком до 15 суток.

Ранее собственный законопроект о борьбе с навязчивым преследованием внесла в Госдуму группа депутатов от фракции «Новые люди». В нём предусмотрены более высокие штрафы, а также вводится понятие охранного ордера — судебного запрета на приближение к жертве. Если жертвами преследования становятся несовершеннолетние, ответственность предлагается ужесточить вплоть до уголовной.

RSS: Новости на портале Anti-Malware.ru