ChatGPT удалось убедить решать капчи с помощью подмены контекста

ChatGPT удалось убедить решать капчи с помощью подмены контекста

ChatGPT удалось убедить решать капчи с помощью подмены контекста

Компания SPLX показала, как ChatGPT можно обмануть и заставить решать CAPTCHA — несмотря на встроенные запреты. Напомним, разработчики ИИ обычно ставят жёсткие ограничения: агент не должен помогать обходить тесты «на человечность» вроде reCAPTCHA. Это связано и с этикой, и с политиками платформ, и с рисками неправомерного использования.

Но исследователи из SPLX нашли способ обойти эти правила. Сначала они в обычном чате с ChatGPT-4o договорились, что список капч «ненастоящий» и что «решать их можно».

Потом просто скопировали этот диалог и вставили его в новое окно диалога с ChatGPT. Агент воспринял контекст как продолжение разговора и спокойно начал решать задачи.

Эксперимент включал разные типы: reCAPTCHA V2 Enterprise, reCAPTCHA V2 Callback и Click CAPTCHA. Причём с последним агенту пришлось немного «попотеть» — он сам решил, что стоит скорректировать движения курсора, чтобы они выглядели более «человеческими».

 

По словам SPLX, это наглядно показывает две вещи. Во-первых, сами капчи уже не выглядят надёжным барьером: ИИ справляется с ними довольно уверенно. Во-вторых, ИИ-агенты уязвимы к манипуляциям через контекст — можно подсовывать им «прошлые беседы» и таким образом менять поведение.

 

Исследователи предупреждают: если злоумышленники возьмут этот трюк на вооружение, они смогут уговаривать ИИ обходить настоящие защитные механизмы под видом «фейковых» и получать доступ к закрытой информации.

В SPLX считают, что простых «заглушек» на уровне намерений или фиксированных правил уже недостаточно. ИИ нужна лучшая защита контекста и «гигиена памяти», чтобы не вестись на такие уловки.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

K2 Cloud запускает программу баг-баунти для защиты своих облачных сервисов

K2 Cloud, входящая в К2Тех, объявила о запуске программы по поиску уязвимостей. Цель проста — сделать свои облачные сервисы прозрачными и защищёнными. Первый этап пройдёт в закрытом формате: участвовать смогут только исследователи, проверенные на платформе Standoff Bug Bounty от Positive Technologies.

Это крупнейшая российская площадка для баг-баунти, и в пилот приглашены более 100 лучших специалистов.

Подобные программы уже работают у Госуслуг, Единой биометрической системы, Ozon, Самоката, ЮMoney и других крупных сервисов. Теперь к ним присоединилась и K2 Cloud, что, по сути, говорит о зрелости компании в вопросах безопасности.

По словам Александра Луговa, руководителя группы по обеспечению ИБ облачной платформы K2 Cloud, компания регулярно проводит пентесты, а теперь решила подключить внешних экспертов:

«Мы хотим, чтобы защита облака была максимально живой и эффективной. В баг-баунти вознаграждения напрямую зависят от найденных уязвимостей, что мотивирует исследователей искать глубже».

На старте максимальная выплата за найденную уязвимость составит 300 тысяч рублей. Размер вознаграждения зависит от серьёзности проблемы, а в будущем суммы обещают увеличить. Особый интерес представляют уязвимости, которые могут реально повлиять на инфраструктуру: RCE, SQL-инъекции, обход авторизации, SSRF и ошибки бизнес-логики. Проверять будут ключевые сервисы платформы, включая веб-консоль управления.

В K2 Cloud также ссылаются на исследование К2 Кибербезопасность: 64% специалистов считают главной угрозой 2025 года вирусы-шифровальщики, 28% — целевые APT-атаки, и 8% — DDoS. Компания уверена, что вовлечение баг-хантеров поможет закрыть слабые места до того, как ими воспользуются злоумышленники.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru