В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

В ChatGPT нашли семь уязвимостей, сливающих данные пользователей

Исследователи из компании Tenable сообщили о серии уязвимостей, затрагивающих модели GPT-4o и GPT-5, которые лежат в основе ChatGPT. Эти дыры позволяют злоумышленникам похищать личные данные пользователей из памяти и истории переписки бота — без ведома самих пользователей.

Всего специалисты выявили семь векторов атак, часть из которых OpenAI уже устранила. Главная проблема — так называемые «непрямые инъекции промпта» (indirect prompt injection).

С их помощью можно обмануть искусственный интеллект и заставить его выполнять вредоносные инструкции, даже если пользователь ничего не подозревает.

Среди найденных методов — внедрение команд через вредоносные сайты, запросы к ChatGPT с поддельными ссылками или командами, маскированными под разрешённые домены (например, через bing.com), а также скрытие вредоносных инструкций в коде веб-страниц. В одном из сценариев атаки злоумышленник мог «отравить» память ChatGPT, добавив туда свои команды через сайт, который пользователь попросил бота кратко пересказать.

Подобные инъекции не требуют от пользователя кликов или загрузки файлов — достаточно обычного запроса вроде «расскажи, что написано на этом сайте». Если страница уже проиндексирована поисковиком, ИИ мог выполнить вредоносный код автоматически.

 

Tenable отмечает, что такие атаки — проблема не только OpenAI. За последние месяцы исследователи обнаруживали похожие уязвимости в Claude, Copilot, и других ИИ-инструментах. Некоторые позволяли похищать данные, обходить фильтры безопасности или подменять ответы модели.

По словам экспертов, полностью устранить угрозу инъекций промпта в ближайшее время вряд ли удастся. Они рекомендуют разработчикам ИИ-сервисов тщательнее проверять механизмы безопасности и фильтры URL, чтобы свести риски к минимуму.

Не так давно мы рассуждали на тему «можно ли доверять GenAI». Рассматривали галлюцинации и контроль достоверности ИИ.

iOS 27 научит Локатор тайно скрывать геолокацию от отдельных людей

Apple продолжает прокачивать не только интерфейс iOS 27, но и фирменные приложения. Одно из самых заметных обновлений досталось сервису Локатор (Find My), который получил новые настройки приватности и переработанный дизайн. Главная фишка — возможность незаметно скрывать своё местоположение от конкретного человека.

Теперь в карточке каждого контакта появился отдельный переключатель «Скрыть местоположение».

Его можно активировать в любой момент, а другой пользователь при этом не получит никаких уведомлений о том, что доступ к вашему местоположению исчез.

Вместо этого в приложении у него просто появится сообщение «Местоположение не найдено». Причём Apple не станет сообщать и о последующем возобновлении передачи геоданных. Получается своеобразный режим невидимки для избранных контактов.

Источник: 9to5mac

 

Заодно компания добавила более гибкие настройки обмена геолокацией. Теперь можно заранее указать точное время или дату, до которых будет действовать доступ к геопозиции. После этого передача координат отключится автоматически.

Не обошлось и без визуальных изменений. Локатор наконец получил элементы нового интерфейса Liquid Glass, который Apple активно внедряет по всей системе. В приложении появился обновлённый дизайн панели вкладок, а на главном экране теперь отображается больше информации о местоположении людей без необходимости открывать их карточки.

Например, если раньше для просмотра точного адреса приходилось нажимать на контакт, то теперь приложение может сразу показать улицу, на которой находится человек.

Также Apple слегка освежила набор иконок. Вкладка с отслеживаемыми предметами получила новый значок в стиле AirTag.

На первый взгляд обновление выглядит косметическим, но функция скрытия местоположения без уведомлений вполне может стать одной из самых обсуждаемых возможностей iOS 27. Особенно среди тех, кто привык делиться геолокацией с друзьями, родственниками или второй половиной.

RSS: Новости на портале Anti-Malware.ru