В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

Исследователи из компании Tenable сообщили о серии уязвимостей, затрагивающих модели GPT-4o и GPT-5, которые лежат в основе ChatGPT. Эти дыры позволяют злоумышленникам похищать личные данные пользователей из памяти и истории переписки бота — без ведома самих пользователей.

Всего специалисты выявили семь векторов атак, часть из которых OpenAI уже устранила. Главная проблема — так называемые «непрямые инъекции промпта» (indirect prompt injection).

С их помощью можно обмануть искусственный интеллект и заставить его выполнять вредоносные инструкции, даже если пользователь ничего не подозревает.

Среди найденных методов — внедрение команд через вредоносные сайты, запросы к ChatGPT с поддельными ссылками или командами, маскированными под разрешённые домены (например, через bing.com), а также скрытие вредоносных инструкций в коде веб-страниц. В одном из сценариев атаки злоумышленник мог «отравить» память ChatGPT, добавив туда свои команды через сайт, который пользователь попросил бота кратко пересказать.

Подобные инъекции не требуют от пользователя кликов или загрузки файлов — достаточно обычного запроса вроде «расскажи, что написано на этом сайте». Если страница уже проиндексирована поисковиком, ИИ мог выполнить вредоносный код автоматически.

 

Tenable отмечает, что такие атаки — проблема не только OpenAI. За последние месяцы исследователи обнаруживали похожие уязвимости в Claude, Copilot, и других ИИ-инструментах. Некоторые позволяли похищать данные, обходить фильтры безопасности или подменять ответы модели.

По словам экспертов, полностью устранить угрозу инъекций промпта в ближайшее время вряд ли удастся. Они рекомендуют разработчикам ИИ-сервисов тщательнее проверять механизмы безопасности и фильтры URL, чтобы свести риски к минимуму.

Не так давно мы рассуждали на тему «можно ли доверять GenAI». Рассматривали галлюцинации и контроль достоверности ИИ.

Главреда телеграм-канала Сапа Медиа задержали по делу о сливе данных

Следственный комитет сообщил о задержании главного редактора телеграм-канала «Сапа Медиа» Алины Джикаевой и оперативного дежурного дежурной части УМВД России по Махачкале. Им вменяют превышение должностных полномочий, получение взятки и дачу взятки (п. «е» ч. 3 ст. 286 УК РФ, п. «в» ч. 5 ст. 290 УК РФ, п.п. «а», «б» ч. 4 ст. 291 УК РФ).

По версии следствия, Джикаева получала от сотрудника МВД оперативную и иную закрытую информацию, в том числе персональные данные граждан.

О задержании сообщила пресс-служба Следственного комитета. У фигурантов прошли обыски и другие следственные действия. Для проведения дальнейших мероприятий их доставляют в Москву.

«По данным следствия, не позднее июля 2020 года Джикаева, находясь в Москве, в соответствии с достигнутой договорённостью с оперативным дежурным ДЧ УМВД России по Махачкале получала сведения о происшествиях и оперативной обстановке на территории Дагестана и Республики Северная Осетия — Алания, содержащие персональные данные граждан», — говорится в сообщении ведомства.

Как утверждает следствие, полученные сведения затем публиковались в открытых источниках. Общая сумма взяток, по предварительной версии, составила около 250 тыс. рублей.

«Разглашение закрытой информации могло способствовать уничтожению следов преступлений, препятствовало раскрытию и расследованию уголовных дел. Кроме того, были нарушены законные интересы граждан, чьи персональные данные были распространены», — заявили в пресс-центре МВД, который также занимается оперативным сопровождением этого дела.

Как сообщает РБК, помимо Джикаевой, были увезены ещё несколько сотрудников «Сапы». Однако официального подтверждения этой информации пока нет.

RSS: Новости на портале Anti-Malware.ru