ChatGPT удалось убедить решать капчи с помощью подмены контекста

ChatGPT удалось убедить решать капчи с помощью подмены контекста

ChatGPT удалось убедить решать капчи с помощью подмены контекста

Компания SPLX показала, как ChatGPT можно обмануть и заставить решать CAPTCHA — несмотря на встроенные запреты. Напомним, разработчики ИИ обычно ставят жёсткие ограничения: агент не должен помогать обходить тесты «на человечность» вроде reCAPTCHA. Это связано и с этикой, и с политиками платформ, и с рисками неправомерного использования.

Но исследователи из SPLX нашли способ обойти эти правила. Сначала они в обычном чате с ChatGPT-4o договорились, что список капч «ненастоящий» и что «решать их можно».

Потом просто скопировали этот диалог и вставили его в новое окно диалога с ChatGPT. Агент воспринял контекст как продолжение разговора и спокойно начал решать задачи.

Эксперимент включал разные типы: reCAPTCHA V2 Enterprise, reCAPTCHA V2 Callback и Click CAPTCHA. Причём с последним агенту пришлось немного «попотеть» — он сам решил, что стоит скорректировать движения курсора, чтобы они выглядели более «человеческими».

 

По словам SPLX, это наглядно показывает две вещи. Во-первых, сами капчи уже не выглядят надёжным барьером: ИИ справляется с ними довольно уверенно. Во-вторых, ИИ-агенты уязвимы к манипуляциям через контекст — можно подсовывать им «прошлые беседы» и таким образом менять поведение.

 

Исследователи предупреждают: если злоумышленники возьмут этот трюк на вооружение, они смогут уговаривать ИИ обходить настоящие защитные механизмы под видом «фейковых» и получать доступ к закрытой информации.

В SPLX считают, что простых «заглушек» на уровне намерений или фиксированных правил уже недостаточно. ИИ нужна лучшая защита контекста и «гигиена памяти», чтобы не вестись на такие уловки.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Каждая вторая компания в Москве увольняла сотрудников после ИБ-инцидентов

Компания «СёрчИнформ» опубликовала исследование о том, как московские организации пережили 2025 год в части информационной безопасности. В опросе участвовали 125 специалистов ИБ из разных компаний — от госсектора до коммерческих структур. Главная цифра, которая сразу бросается в глаза: 59% московских компаний сталкивались с ИБ-инцидентами по вине сотрудников.

И, что важно, в 62% случаев нарушение произошло ненамеренно — обычные ошибки, невнимательность, неправильная работа с документами.

Эксперты считают, что это показатель недостаточной осведомлённости сотрудников и нехватки обучения.

Замгендиректора «СёрчИнформ» Алексей Парфентьев отмечает: случайные инциденты всегда преобладают, потому что даже люди, знающие базовые правила, могут допускать ошибки.

 

Поэтому ИБ-службам стоит не только внедрять защитные системы, но и помогать сотрудникам понимать, как правильно работать с конфиденциальными данными.

Какие инциденты случались чаще всего

В 2025 году компании фиксировали:

  • утечки данных — 47%
  • внешние атаки через сотрудников — 17%
  • откаты и взяточничество — 14%
  • стороннюю занятость/«боковики» — 12%
  • промышленный шпионаж — 11%
  • дискредитацию компании — 11%

Чаще всего злоумышленники пытались «слить»:

  • персональные данные — 56%
  • внутренние регламенты — 48%
  • данные о клиентах и сделках — 35%
  • финансовые документы — 24%
  • техническую информацию — 19%

Через какие каналы утекала информация

Лидеры здесь вполне ожидаемы:

  • почта — 63%,
  • мессенджеры — 59%,
  • облачные сервисы — 38%,
  • флешки и другие носители — 32%.

Интересно, что ИИ-сервисы пока не стали массовым каналом утечек — о таких случаях заявили лишь 6% компаний.

Кто становился виновником утечек

Чаще всего — обычные сотрудники: их упомянули 72% компаний. Далее идут:

  • линейные руководители — 30%,
  • руководители направлений — 22%,
  • топ-менеджеры — 15%,
  • внештатные специалисты — 12%,
  • контрагенты — 10%.

Как компании наказывают нарушителей

Большинство обходятся предупреждением или выговором — так делают 75% компаний. Но 52% организаций увольняли сотрудников, ставших причиной инцидента. До суда дело доходило в 10% случаев. А 9% работодателей нарушителей никак не наказывали.

 

Кто обнаруживает инциденты

  • ИБ- или ИТ-службы — 83%,
  • сотрудники других подразделений — 32%,
  • контрагенты — 9%.

Исследование проводится ежегодно в рамках Road Show SearchInform, и 2025 год в очередной раз показал: человеческий фактор остаётся главной причиной ИБ-инцидентов, а компании — даже при развитой технической защите — всё ещё нуждаются в системном обучении персонала.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru