Критические баги в ChatGPT-плагинах раскрывали конфиденциальные данные

Критические баги в ChatGPT-плагинах раскрывали конфиденциальные данные

Критические баги в ChatGPT-плагинах раскрывали конфиденциальные данные

В расширениях для ChatGPT нашли три уязвимости, открывающие несанкционированный доступ к аккаунтам пользователей и сервисам, включая репозитории на платформах вроде GitHub.

Разработчики размещают плагины для ChatGPT и кастомные версии бота для расширения функциональных возможностей ИИ-модели. Это подразумевает обмен информацией с внешними сервисами: ChatGPT получает возможность выполнять действия на сторонних сайтах (например, GitHub и Google Диск).

Исследователи из Salt Labs нашли сразу три критические уязвимости, одна из которых возникает в момент инсталляции новых плагинов — когда ChatGPT перенаправляет пользователей на сторонний ресурс для подтверждения кода.

В результате атакующие могут обманом заставить юзера одобрить вредоносный код, после чего несанкционированный плагин установится автоматически. Успешная эксплуатация этой бреши способна открыть злоумышленникам доступ к аккаунтам жертвы.

Ещё одну уязвимость нашли во фреймворке PluginLab, который используется при разработке плагинов. С его помощью киберпреступники могут выдать себя за целевого пользователя и тоже перехватить контроль над учётной записью.

Ещё одна проблема касается манипуляции редиректом OAuth, что позволяет атакующим внедрить вредоносные URL и украсть учётные записи пользователей.

К счастью, признаков эксплуатации уязвимостей в реальных атаках эксперты не нашли. Специалисты Salt Labs также отметили, что в настоящее время все лазейки закрыты.

Подпишитесь на новости

Заблокировать 95% VPN с помощью ИИ собирались власти в России

Искусственному интеллекту подыскали ещё одну работу — вычислять VPN, которые не поймали обычными средствами. При подготовке национального плана внедрения ИИ до 2030 года обсуждалось применение нейросетей для повышения эффективности блокировок до 95%.

Как выяснил «Коммерсантъ», в проекте предлагалось анализировать с помощью ИИ признаки 70% блокируемых VPN-сервисов.

Однако Минцифры заявило, что в актуальной версии документа этой меры нет. По словам источника издания, сейчас трафик уже проверяют интеллектуальные алгоритмы, но к ИИ они не относятся.

Нейросеть могла бы искать VPN по косвенным признакам соединений. Проблема в том, что похожим образом могут выглядеть корпоративные подключения, облачные сервисы и голосовая связь.

Одна ошибка фильтра, и вместо обходного сервиса отваливается рабочий инструмент. Эксперты предупреждают: на больших объёмах трафика даже небольшая доля ошибок способна затронуть множество легитимных соединений.

Поэтому один из предложенных подходов — поручить модели поиск подозрительных узлов, а блокировать их после отдельной проверки.

RSS: Новости на портале Anti-Malware.ru