В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

Исследователи из компании Tenable сообщили о серии уязвимостей, затрагивающих модели GPT-4o и GPT-5, которые лежат в основе ChatGPT. Эти дыры позволяют злоумышленникам похищать личные данные пользователей из памяти и истории переписки бота — без ведома самих пользователей.

Всего специалисты выявили семь векторов атак, часть из которых OpenAI уже устранила. Главная проблема — так называемые «непрямые инъекции промпта» (indirect prompt injection).

С их помощью можно обмануть искусственный интеллект и заставить его выполнять вредоносные инструкции, даже если пользователь ничего не подозревает.

Среди найденных методов — внедрение команд через вредоносные сайты, запросы к ChatGPT с поддельными ссылками или командами, маскированными под разрешённые домены (например, через bing.com), а также скрытие вредоносных инструкций в коде веб-страниц. В одном из сценариев атаки злоумышленник мог «отравить» память ChatGPT, добавив туда свои команды через сайт, который пользователь попросил бота кратко пересказать.

Подобные инъекции не требуют от пользователя кликов или загрузки файлов — достаточно обычного запроса вроде «расскажи, что написано на этом сайте». Если страница уже проиндексирована поисковиком, ИИ мог выполнить вредоносный код автоматически.

 

Tenable отмечает, что такие атаки — проблема не только OpenAI. За последние месяцы исследователи обнаруживали похожие уязвимости в Claude, Copilot, и других ИИ-инструментах. Некоторые позволяли похищать данные, обходить фильтры безопасности или подменять ответы модели.

По словам экспертов, полностью устранить угрозу инъекций промпта в ближайшее время вряд ли удастся. Они рекомендуют разработчикам ИИ-сервисов тщательнее проверять механизмы безопасности и фильтры URL, чтобы свести риски к минимуму.

Не так давно мы рассуждали на тему «можно ли доверять GenAI». Рассматривали галлюцинации и контроль достоверности ИИ.

Январское обновление Windows 11 ломает графику на видеокартах NVIDIA

После установки январского обновления Windows 11 KB5074109 часть пользователей столкнулась с неожиданными проблемами — на этот раз пострадали владельцы видеокарт NVIDIA. Вместо обещанных улучшений и обновлённых сертификатов Secure Boot некоторые получили подвисания и чёрный экран.

Судя по сообщениям на Reddit, сценарий у многих похожий: система на мгновение «замирает», после чего экран становится чёрным.

Компьютер при этом не уходит в перезагрузку и не падает с BSOD — примерно через минуту изображение возвращается само. Пользователи отмечают, что ощущается это скорее как сбой видеодрайвера, а не полноценная ошибка Windows.

Помимо этого, владельцы NVIDIA жалуются на короткие «мигания» чёрного экрана длительностью в одну-две секунды и странные визуальные глюки. В отдельных случаях рабочий стол и вовсе становится полностью чёрным.

Этот эффект, впрочем, оказался косметическим — фон обычно удаётся восстановить, просто заново выбрав обои в настройках персонализации. А вот внезапные чёрные вспышки экрана пока никуда не делись.

Официального решения проблемы на момент публикации нет. В сообществе ожидают, что NVIDIA выпустит обновлённый драйвер в ближайшее время — возможно, уже на следующей неделе. Любопытно, что жалобы поступают исключительно от пользователей с видеокартами NVIDIA: владельцы других GPU о подобных сбоях не сообщают.

Массовым этот баг назвать сложно, но для тех, кого он задел, ситуация откровенно раздражающая. Тем более что KB5074109 уже успело прославиться — ранее пользователи жаловались, что обновление ломает подключения к Azure Virtual Desktop.

Пока остаётся только ждать официальных комментариев и патчей от Microsoft или NVIDIA — и надеяться, что чёрные экраны не станут «фичей» января для Windows 11.

RSS: Новости на портале Anti-Malware.ru