В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

Исследователи из компании Tenable сообщили о серии уязвимостей, затрагивающих модели GPT-4o и GPT-5, которые лежат в основе ChatGPT. Эти дыры позволяют злоумышленникам похищать личные данные пользователей из памяти и истории переписки бота — без ведома самих пользователей.

Всего специалисты выявили семь векторов атак, часть из которых OpenAI уже устранила. Главная проблема — так называемые «непрямые инъекции промпта» (indirect prompt injection).

С их помощью можно обмануть искусственный интеллект и заставить его выполнять вредоносные инструкции, даже если пользователь ничего не подозревает.

Среди найденных методов — внедрение команд через вредоносные сайты, запросы к ChatGPT с поддельными ссылками или командами, маскированными под разрешённые домены (например, через bing.com), а также скрытие вредоносных инструкций в коде веб-страниц. В одном из сценариев атаки злоумышленник мог «отравить» память ChatGPT, добавив туда свои команды через сайт, который пользователь попросил бота кратко пересказать.

Подобные инъекции не требуют от пользователя кликов или загрузки файлов — достаточно обычного запроса вроде «расскажи, что написано на этом сайте». Если страница уже проиндексирована поисковиком, ИИ мог выполнить вредоносный код автоматически.

 

Tenable отмечает, что такие атаки — проблема не только OpenAI. За последние месяцы исследователи обнаруживали похожие уязвимости в Claude, Copilot, и других ИИ-инструментах. Некоторые позволяли похищать данные, обходить фильтры безопасности или подменять ответы модели.

По словам экспертов, полностью устранить угрозу инъекций промпта в ближайшее время вряд ли удастся. Они рекомендуют разработчикам ИИ-сервисов тщательнее проверять механизмы безопасности и фильтры URL, чтобы свести риски к минимуму.

Не так давно мы рассуждали на тему «можно ли доверять GenAI». Рассматривали галлюцинации и контроль достоверности ИИ.

Касперская предложила посчитать, сколько россиян сидят в Telegram через VPN

Президент InfoWatch Наталья Касперская рассказала о любопытном диалоге с Роскомнадзором во время встречи ведомства с российскими разработчиками программного обеспечения. Главной темой неожиданно стала эффективность блокировок Telegram и других интернет-ресурсов.

По словам Касперской, она напрямую спросила представителя Роскомнадзора, считает ли ведомство такие меры успешными. Ответ был однозначным: да, считает.

После этого предпринимательница решила провести небольшой экспресс-опрос прямо в зале и поинтересовалась у участников встречи, кто из них пользуется Telegram. Руки подняли все присутствующие.

На это председательствующий, как утверждает Касперская, отреагировал фразой: «Ну что, тогда у вас и проблем нет».

История быстро разошлась по соцсетям. Сама Касперская признала, что ответ получился остроумным, но вопросов у неё меньше не стало.

«Я не перестаю думать о целесообразности траты времени и государственных средств на то, что вообще не работает», — написала она в своём телеграм-канале.

По мнению главы InfoWatch, специалисты Роскомнадзора прекрасно понимают технические возможности и ограничения современных сетей связи, поэтому вопрос эффективности подобных ограничений заслуживает отдельного обсуждения.

В качестве примера Касперская предложила провести независимое исследование. По её мнению, ВЦИОМ или Mediascope могли бы оценить, сколько россиян сегодня используют VPN и имеют доступ к Telegram, чтобы получить объективную картину происходящего.

Напомним, ранее Роскомнадзор неоднократно критиковал Telegram за несоблюдение требований российского законодательства.

RSS: Новости на портале Anti-Malware.ru