Критические баги в ChatGPT-плагинах раскрывали конфиденциальные данные

Критические баги в ChatGPT-плагинах раскрывали конфиденциальные данные

Критические баги в ChatGPT-плагинах раскрывали конфиденциальные данные

В расширениях для ChatGPT нашли три уязвимости, открывающие несанкционированный доступ к аккаунтам пользователей и сервисам, включая репозитории на платформах вроде GitHub.

Разработчики размещают плагины для ChatGPT и кастомные версии бота для расширения функциональных возможностей ИИ-модели. Это подразумевает обмен информацией с внешними сервисами: ChatGPT получает возможность выполнять действия на сторонних сайтах (например, GitHub и Google Диск).

Исследователи из Salt Labs нашли сразу три критические уязвимости, одна из которых возникает в момент инсталляции новых плагинов — когда ChatGPT перенаправляет пользователей на сторонний ресурс для подтверждения кода.

В результате атакующие могут обманом заставить юзера одобрить вредоносный код, после чего несанкционированный плагин установится автоматически. Успешная эксплуатация этой бреши способна открыть злоумышленникам доступ к аккаунтам жертвы.

Ещё одну уязвимость нашли во фреймворке PluginLab, который используется при разработке плагинов. С его помощью киберпреступники могут выдать себя за целевого пользователя и тоже перехватить контроль над учётной записью.

Ещё одна проблема касается манипуляции редиректом OAuth, что позволяет атакующим внедрить вредоносные URL и украсть учётные записи пользователей.

К счастью, признаков эксплуатации уязвимостей в реальных атаках эксперты не нашли. Специалисты Salt Labs также отметили, что в настоящее время все лазейки закрыты.

ГК «Солар» объединила три технологии для защиты софта от ИИ-рисков

Искусственный интеллект научился штамповать код с бешеной скоростью, но безопаснее от этого софт не стал. По данным ГК «Солар» и УЦСБ, ИИ при разработке используют уже 82% организаций. При этом публичные LLM могут пропускать или неверно определять до 40-50% уязвимостей, выявляемых средствами статического анализа.

Особенно весело становится после релиза: в 75-80% массовых цифровых сервисов, изученных экспертами «Солара», обнаруживаются критические уязвимости.

А времени на раздумья всё меньше. Если в 2019 году окно для эксплуатации бреши составляло около 63 дней, то в 2025-м атакующим порой хватало нескольких часов. В утечках данных через LLM исходный код занимает 41%.

На этом фоне «Солар» объединил три технологии — Solar appScreener, Luntry и Hexway ASOC — в единый портфель для защиты ПО от рисков, связанных с ИИ. Контур охватывает весь путь приложения: написание кода, сборку, тестирование, выпуск в прод и эксплуатацию.

Solar appScreener получил локальный ИИ-плагин для проверки и исправления уязвимостей. Заявленная точность достигает более 90% при триаже и 85% при подготовке исправлений. Решение может работать без интернета, чтобы корпоративный код не отправлялся гулять по внешним сервисам.

Luntry следит за контейнерами и Kubernetes-кластерами, помогает приоритизировать уязвимости и выявлять неизвестные угрозы. Hexway ASOC собирает результаты SAST, DAST, SCA и пентестов, убирает дубли, сортирует находки по риску и контролирует сроки исправления.

По оценке «Солара», российский рынок AppSec вырастет с 2,8 млрд рублей в 2025 году до 5,7 млрд к 2030-му.

RSS: Новости на портале Anti-Malware.ru