В ChatGPT нашли уязвимость, позволяющую подсовывать вредоносные ссылки

В ChatGPT нашли уязвимость, позволяющую подсовывать вредоносные ссылки

В ChatGPT нашли уязвимость, позволяющую подсовывать вредоносные ссылки

Исследователь Permiso Анди Ахмети обнаружил неприятный сценарий атаки на ChatGPT: если попросить чат-бота пересказать веб-страницу со скрытыми инструкциями, он может не отличить нормальный контент от вредной подсказки и вывести фишинговую ссылку прямо в ответе.

Проблему Ахмети назвал ChatGPhish. Суть в классической инъекции промпта, только с более наглядным эффектом: страница выглядит обычной, пользователь просит ChatGPT её кратко пересказать, а внутри уже спрятана инструкция для модели — например, добавить в ответ фальшивое предупреждение о безопасности.

В демонстрации исследователь встроил такие инструкции в страницу CloudLens на GitHub. ChatGPT действительно пересказал содержимое страницы, но затем добавил блок в духе системного уведомления: мол, к аккаунту подключили новое устройство. Рядом ссылка «Click here», которая внешне выглядит как часть ответа ChatGPT, но ведёт на домен злоумышленника.

 

То есть пользователь видит не просто подозрительный баннер где-то на сайте, а сообщение, оформленное в привычном стиле ChatGPT. И вот это уже особенно неприятно: доверие переносится с сервиса на вредную ссылку почти автоматически.

Ахмети показал и более хитрый вариант с QR-кодом. Поскольку клиент ChatGPT может отображать Markdown-картинки, атакующий способен заставить модель вывести QR-код в ответе. Пользователь сканирует его телефоном и попадает на сайт злоумышленника, при этом сам URL вообще не отображается в тексте.

 

По словам исследователя, такой сценарий позволяет обойти часть защит на рабочем компьютере: блокировки URL, проверки доменов менеджерами паролей и другие десктопные механизмы. Атака просто переезжает с браузера на смартфон жертвы.

Ахмети сообщил об уязвимости OpenAI через Bugcrowd ещё в конце апреля. Первую заявку отметили как невоспроизводимую, повторную — как дубликат. При этом исследователь говорит, что не получил подтверждения, была ли проблема исправлена.

Сбер предложил собирать надёжные пароли в Змейке

На портале по киберграмотности «Кибрарий» появилась «Змейка», в которой вместо яблок нужно собирать символы для будущего пароля. Игровой тренажёр от «Сбера» доступен бесплатно и не требует регистрации. Правила простые: пользователь управляет змейкой и подбирает разбросанные по полю буквы, цифры и специальные знаки.

На всё даётся 90 секунд. Затем система проверяет получившуюся комбинацию и сообщает, соответствует ли она критериям надёжного пароля.

Разработчики предлагают использовать собранную строку для защиты учётных записей. Идея в том, что игра поможет получить более сложную и менее предсказуемую комбинацию, чем очередные qwerty, password или имя кота с годом рождения.

По оценкам экспертов, 60% паролей удаётся взломать в течение первого часа. Современные инструменты перебора работают не вслепую: они используют словари, популярные шаблоны и базы уже утёкших комбинаций. Поэтому человеческая оригинальность вроде замены буквы «о» на ноль давно никого не впечатляет, особенно алгоритмы.

Даже хаотичный удар по клавиатуре не всегда даёт настоящую случайность. Для защиты от автоматического подбора специалисты советуют использовать длинные пароли с буквами разных регистров, цифрами и специальными символами.

Впрочем, победа в «Змейке» ещё не делает аккаунт неуязвимым. Один и тот же пароль нельзя ставить на разные сервисы, а хранить десятки уникальных комбинаций удобнее в менеджере паролей. Для важных учётных записей также стоит включить двухфакторную аутентификацию.

Получился генератор паролей для тех, кому обычные генераторы кажутся слишком скучными: сначала полторы минуты гоняешь змейку, потом защищаешь добычей аккаунт. Главное — не записывать результат на стикере у монитора.

RSS: Новости на портале Anti-Malware.ru