ChatGPT удалось убедить решать капчи с помощью подмены контекста

ChatGPT удалось убедить решать капчи с помощью подмены контекста

ChatGPT удалось убедить решать капчи с помощью подмены контекста

Компания SPLX показала, как ChatGPT можно обмануть и заставить решать CAPTCHA — несмотря на встроенные запреты. Напомним, разработчики ИИ обычно ставят жёсткие ограничения: агент не должен помогать обходить тесты «на человечность» вроде reCAPTCHA. Это связано и с этикой, и с политиками платформ, и с рисками неправомерного использования.

Но исследователи из SPLX нашли способ обойти эти правила. Сначала они в обычном чате с ChatGPT-4o договорились, что список капч «ненастоящий» и что «решать их можно».

Потом просто скопировали этот диалог и вставили его в новое окно диалога с ChatGPT. Агент воспринял контекст как продолжение разговора и спокойно начал решать задачи.

Эксперимент включал разные типы: reCAPTCHA V2 Enterprise, reCAPTCHA V2 Callback и Click CAPTCHA. Причём с последним агенту пришлось немного «попотеть» — он сам решил, что стоит скорректировать движения курсора, чтобы они выглядели более «человеческими».

 

По словам SPLX, это наглядно показывает две вещи. Во-первых, сами капчи уже не выглядят надёжным барьером: ИИ справляется с ними довольно уверенно. Во-вторых, ИИ-агенты уязвимы к манипуляциям через контекст — можно подсовывать им «прошлые беседы» и таким образом менять поведение.

 

Исследователи предупреждают: если злоумышленники возьмут этот трюк на вооружение, они смогут уговаривать ИИ обходить настоящие защитные механизмы под видом «фейковых» и получать доступ к закрытой информации.

В SPLX считают, что простых «заглушек» на уровне намерений или фиксированных правил уже недостаточно. ИИ нужна лучшая защита контекста и «гигиена памяти», чтобы не вестись на такие уловки.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Число сложных кибератак на компании в России увеличилось на 13%

В первой половине 2025 года специалисты «Кода Безопасности» зафиксировали рост числа атак на российские организации. По сравнению с концом 2024-го инцидентов стало больше примерно на 10–12%. Причём серьёзных, критичных случаев прибавилось ещё больше — плюс 13%.

Эксперты объясняют это тем, что злоумышленники всё чаще используют целевые атаки и более изощрённые методы.

Подготовка к таким кампаниям может занимать до полугода: хакеры собирают максимум информации о компании, получают доступ к самым защищённым сегментам и только потом переходят к активным действиям. В результате удар по инфраструктуре может привести к полному отказу сервисов.

Среди популярных техник — атаки «подручными средствами» (LotL), когда злоумышленники используют легитимные программы вроде PowerShell, WMI, RDP, PsExec или AnyDesk. Так они обходят привычные средства защиты, и обнаружить такие действия на ранних стадиях становится очень сложно.

Ещё один тренд — атаки на цепочку поставок (SCA). В этом случае хакеры сначала проникают в небольшие или средние компании-партнёры, где уровень защиты обычно ниже, а затем через них выходят на инфраструктуру крупных предприятий.

Социальная инженерия, как и прежде, остаётся любимым инструментом злоумышленников. Всё чаще речь идёт о таргетированных фишинговых рассылках, причём многие из них уже создаются с помощью ИИ. Такие письма становятся всё более убедительными и могут обмануть даже опытных сотрудников.

Если говорить о вредоносном софте, то в лидерах остаются трояны удалённого доступа (RAT), стилеры и загрузчики/дропперы. Последние особенно опасны: они не просто внедряют вредоносный код через фишинг или скомпрометированные сервисы, но и подгружают дополнительные инструменты — RAT, стилеры или эксплойты — в зависимости от ситуации. Это делает атаку гибкой и малозаметной.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru