ChatGPT удалось убедить решать капчи с помощью подмены контекста

ChatGPT удалось убедить решать капчи с помощью подмены контекста

ChatGPT удалось убедить решать капчи с помощью подмены контекста

Компания SPLX показала, как ChatGPT можно обмануть и заставить решать CAPTCHA — несмотря на встроенные запреты. Напомним, разработчики ИИ обычно ставят жёсткие ограничения: агент не должен помогать обходить тесты «на человечность» вроде reCAPTCHA. Это связано и с этикой, и с политиками платформ, и с рисками неправомерного использования.

Но исследователи из SPLX нашли способ обойти эти правила. Сначала они в обычном чате с ChatGPT-4o договорились, что список капч «ненастоящий» и что «решать их можно».

Потом просто скопировали этот диалог и вставили его в новое окно диалога с ChatGPT. Агент воспринял контекст как продолжение разговора и спокойно начал решать задачи.

Эксперимент включал разные типы: reCAPTCHA V2 Enterprise, reCAPTCHA V2 Callback и Click CAPTCHA. Причём с последним агенту пришлось немного «попотеть» — он сам решил, что стоит скорректировать движения курсора, чтобы они выглядели более «человеческими».

 

По словам SPLX, это наглядно показывает две вещи. Во-первых, сами капчи уже не выглядят надёжным барьером: ИИ справляется с ними довольно уверенно. Во-вторых, ИИ-агенты уязвимы к манипуляциям через контекст — можно подсовывать им «прошлые беседы» и таким образом менять поведение.

 

Исследователи предупреждают: если злоумышленники возьмут этот трюк на вооружение, они смогут уговаривать ИИ обходить настоящие защитные механизмы под видом «фейковых» и получать доступ к закрытой информации.

В SPLX считают, что простых «заглушек» на уровне намерений или фиксированных правил уже недостаточно. ИИ нужна лучшая защита контекста и «гигиена памяти», чтобы не вестись на такие уловки.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Минцифры анонсировало ужесточение порядка сбора персданных

Ужесточение правил сбора персональных данных должно помочь избежать избыточного накопления информации и, как следствие, снизить риски утечек. Сейчас документ находится на стадии согласования с другими государственными органами.

Как сообщил врио директора департамента обеспечения кибербезопасности Минцифры Евгений Хасин на пресс-конференции «Кибербезопасность: вызовы и шаги по борьбе с угрозами», ведомство подготовило законопроект, цель которого — сократить объёмы персональных данных, собираемых организациями.

«В системах не должно обрабатываться больше персональных данных, чем необходимо для конкретного бизнес-процесса, — отметил Евгений Хасин. — Многие компании стремятся собирать максимум информации для дальнейшего использования, но в законе закреплён принцип минимизации».

Впервые эта задача была обозначена ещё в 2023 году. Тогда директор департамента обеспечения кибербезопасности Минцифры Владимир Бенгин подчёркивал необходимость сокращать объём используемых персональных данных или хотя бы шифровать их идентификаторы. Он называл это «первичной» мерой до внедрения любых других способов защиты.

Директор по развитию центра мониторинга внешних цифровых угроз Solar Aura (ГК «Солар») Александр Вураско обратил внимание на тревожную статистику. За восемь месяцев 2025 года объём утекших данных оказался в четыре раза больше, чем за весь 2024 год, хотя количество самих инцидентов уменьшилось. По его словам, один масштабный случай способен резко изменить картину. Согласно данным за первое полугодие 2025 года, объём утечек был вдвое меньше, чем за аналогичный период годом ранее.

По мнению экспертов эфира AM Live «Защита данных от утечек и несанкционированного доступа», именно компрометация персональных данных вызывает наибольший общественный резонанс и наносит компаниям наиболее серьёзный ущерб.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru