В атаках на финансовый сектор используется SSRF-уязвимость в ChatGPT

В атаках на финансовый сектор используется SSRF-уязвимость в ChatGPT

В атаках на финансовый сектор используется SSRF-уязвимость в ChatGPT

Исследователи из Veriti третий месяц фиксируют атаки на корпоративные сети с использованием SSRF-уязвимости, выявленной в инфраструктуре ChatGPT компании OpenAI. Временами число попыток эксплойта превышает 10 тыс. в неделю.

Больше прочих от атак страдают финансовые организации, полагающиеся на ИИ-сервисы и интеграцию соответствующих API. Успешный эксплойт грозит им утечками, несанкционированными транзакциями, штрафами регуляторов, потерей репутации и оттоком клиентуры.

Злоумышленники также уделяют большое внимание госсектору США.

 

Уязвимость подмены запросов на стороне сервера, о которой идет речь (CVE-2024-27564, 6,5 балла CVSS) позволяет внедрять вредоносные URL в пользовательский ввод. В итоге приложение начнет подавать несанкционированные запросы от имени юзера.

Эксплойт не требует аутентификации и, по данным Veriti, актуален для 35% проверенных организаций — из-за неадекватных настроек IPS, WAF, а также изначально допущенных ошибок в конфигурации межсетевых экранов.

Аналитики выявили полтора десятка IP-адресов с разной пропиской, принимающих участие в атаках. С одного из них было суммарно совершено 10 479 попыток эксплойта.

Новая функция ChatGPT может подарить стилерам карту активности юзера macOS

OpenAI представила Computer History — функцию, которая превращает недавнюю активность на Mac-компьютерах в хронологию и воспоминания для ChatGPT и Codex. Система учитывает переключения между приложениями, клики, ввод текста, сочетания клавиш и контекст, доступный через специальные возможности macOS. Затем ИИ собирает из этого краткие сводки о работе пользователя.

Функция выключена по умолчанию и требует активации Memories. Пока она работает только в приложении ChatGPT для macOS и доступна пользователям Pro, Business и Enterprise. Подробности опубликованы в документации OpenAI.

В корпоративных тарифах сначала понадобится разрешение администратора. В Европейской экономической зоне, Швейцарии и Великобритании новинка недоступна.

Пользователь может выбрать участвующие приложения и сайты, поставить сбор на паузу или удалить историю за десять минут, час, день либо целиком. Скриншоты, звук и активность в приватном режиме браузера в историю не попадают.

 

Исходные файлы событий хранятся на Mac до 48 часов и после обработки удаляются. Для создания сводок они временно отправляются на серверы OpenAI, но, по заявлению компании, не сохраняются и не используются для обучения моделей. А вот сформированные воспоминания остаются на компьютере в виде обычных Markdown-файлов, пока пользователь не удалит их сам.

И тут приватность начинает хромать. Эти файлы не шифруются средствами Computer History, поэтому другие программы, работающие от имени того же пользователя macOS, потенциально могут их прочитать. Для стилера такая папка способна стать готовым конспектом рабочего дня.

OpenAI также предупреждает о риске инъекции в промпт: скрытые инструкции на сайте или в приложении могут попасть в контекст, после чего ChatGPT или Codex попробует им следовать.

RSS: Новости на портале Anti-Malware.ru