В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

Исследователи из компании Tenable сообщили о серии уязвимостей, затрагивающих модели GPT-4o и GPT-5, которые лежат в основе ChatGPT. Эти дыры позволяют злоумышленникам похищать личные данные пользователей из памяти и истории переписки бота — без ведома самих пользователей.

Всего специалисты выявили семь векторов атак, часть из которых OpenAI уже устранила. Главная проблема — так называемые «непрямые инъекции промпта» (indirect prompt injection).

С их помощью можно обмануть искусственный интеллект и заставить его выполнять вредоносные инструкции, даже если пользователь ничего не подозревает.

Среди найденных методов — внедрение команд через вредоносные сайты, запросы к ChatGPT с поддельными ссылками или командами, маскированными под разрешённые домены (например, через bing.com), а также скрытие вредоносных инструкций в коде веб-страниц. В одном из сценариев атаки злоумышленник мог «отравить» память ChatGPT, добавив туда свои команды через сайт, который пользователь попросил бота кратко пересказать.

Подобные инъекции не требуют от пользователя кликов или загрузки файлов — достаточно обычного запроса вроде «расскажи, что написано на этом сайте». Если страница уже проиндексирована поисковиком, ИИ мог выполнить вредоносный код автоматически.

 

Tenable отмечает, что такие атаки — проблема не только OpenAI. За последние месяцы исследователи обнаруживали похожие уязвимости в Claude, Copilot, и других ИИ-инструментах. Некоторые позволяли похищать данные, обходить фильтры безопасности или подменять ответы модели.

По словам экспертов, полностью устранить угрозу инъекций промпта в ближайшее время вряд ли удастся. Они рекомендуют разработчикам ИИ-сервисов тщательнее проверять механизмы безопасности и фильтры URL, чтобы свести риски к минимуму.

Не так давно мы рассуждали на тему «можно ли доверять GenAI». Рассматривали галлюцинации и контроль достоверности ИИ.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Вышла Kaspersky SD-WAN 2.5 с улучшенной масштабируемостью

«Лаборатория Касперского» выпустила обновлённую версию Kaspersky SD-WAN 2.5, предназначенного для построения и управления защищёнными корпоративными сетями. Главное изменение — повышение масштабируемости и удобства администрирования.

Теперь система поддерживает больше клиентских устройств (CPE) в одном кластере, что особенно актуально для крупных распределённых компаний.

Среди ключевых нововведений — гибкое перенаправление DNS-запросов. Теперь администраторы могут настраивать маршруты для внешних и внутренних DNS в зависимости от задач и архитектуры сети.

Это помогает оптимизировать отклик серверов и ускоряет подключение к нужным сервисам, особенно в территориально распределённых инфраструктурах.

Упростился и процесс устранения неполадок. Диагностику теперь можно проводить централизованно — без необходимости вручную подключаться к каждому устройству. Решение поддерживает фильтры для проверки протоколов BGP и OSPF, что ускоряет поиск и устранение проблем с маршрутизацией.

Кроме того, появилась возможность удалённой диагностики LTE-модулей — можно проверить уровень сигнала и другие параметры связи. Это помогает оперативно оценивать качество соединения и при необходимости перемещать оборудование для улучшения приёма.

Одно из важных обновлений — возможность вносить изменения в конфигурацию CPE по расписанию. Теперь администраторы могут планировать обновления в периоды минимальной нагрузки, снижая риск простоев и влияния на бизнес-процессы.

В новой версии также реализована балансировка между оркестраторами, что позволяет равномерно распределять нагрузку при управлении крупными сетями.

В целом обновление направлено на то, чтобы сделать эксплуатацию сетей SD-WAN удобнее, надёжнее и более управляемой, особенно в организациях с разветвлённой инфраструктурой и высоким числом филиалов.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru