В ChatGPT нашли уязвимость, позволяющую подсовывать вредоносные ссылки

В ChatGPT нашли уязвимость, позволяющую подсовывать вредоносные ссылки

В ChatGPT нашли уязвимость, позволяющую подсовывать вредоносные ссылки

Исследователь Permiso Анди Ахмети обнаружил неприятный сценарий атаки на ChatGPT: если попросить чат-бота пересказать веб-страницу со скрытыми инструкциями, он может не отличить нормальный контент от вредной подсказки и вывести фишинговую ссылку прямо в ответе.

Проблему Ахмети назвал ChatGPhish. Суть в классической инъекции промпта, только с более наглядным эффектом: страница выглядит обычной, пользователь просит ChatGPT её кратко пересказать, а внутри уже спрятана инструкция для модели — например, добавить в ответ фальшивое предупреждение о безопасности.

В демонстрации исследователь встроил такие инструкции в страницу CloudLens на GitHub. ChatGPT действительно пересказал содержимое страницы, но затем добавил блок в духе системного уведомления: мол, к аккаунту подключили новое устройство. Рядом ссылка «Click here», которая внешне выглядит как часть ответа ChatGPT, но ведёт на домен злоумышленника.

 

То есть пользователь видит не просто подозрительный баннер где-то на сайте, а сообщение, оформленное в привычном стиле ChatGPT. И вот это уже особенно неприятно: доверие переносится с сервиса на вредную ссылку почти автоматически.

Ахмети показал и более хитрый вариант с QR-кодом. Поскольку клиент ChatGPT может отображать Markdown-картинки, атакующий способен заставить модель вывести QR-код в ответе. Пользователь сканирует его телефоном и попадает на сайт злоумышленника, при этом сам URL вообще не отображается в тексте.

 

По словам исследователя, такой сценарий позволяет обойти часть защит на рабочем компьютере: блокировки URL, проверки доменов менеджерами паролей и другие десктопные механизмы. Атака просто переезжает с браузера на смартфон жертвы.

Ахмети сообщил об уязвимости OpenAI через Bugcrowd ещё в конце апреля. Первую заявку отметили как невоспроизводимую, повторную — как дубликат. При этом исследователь говорит, что не получил подтверждения, была ли проблема исправлена.

Робот-полицейский за $67 тысяч не поймал никого и ушёл на пенсию

В американском городе Дублин (штат Калифорния) завершился необычный эксперимент с роботом-полицейским DubBot. Менее чем через год службы его отправили в отставку, признав проект не слишком полезным. Робот начал патрулировать многоуровневую парковку Rock Cress летом 2025 года.

Машина была оснащена камерами кругового обзора, кнопкой экстренного вызова и системой двусторонней связи с диспетчерами.

По задумке властей, DubBot должен был помогать полиции, повышать безопасность в общественных местах и отпугивать потенциальных нарушителей.

Но результаты оказались, мягко говоря, скромными. Как сообщили в полиции Дублина, за всё время работы робот не помог раскрыть ни одного преступления, не привёл к выписке ни одного штрафа и вообще не обнаружил ни одного инцидента, который потребовал бы вмешательства полиции.

 

В итоге 12 мая программу решили закрыть, а самого робота вернуть компании Knightscope, которая его разработала.

Стоимость эксперимента составила 67,5 тысячи долларов. Изначально город планировал потратить почти 240 тысяч долларов на двух роботов сроком на два года. Однако второй робот так и не вышел на службу: разработчик не успел его подготовить, а в выбранном парке не оказалось необходимой инфраструктуры.

В мэрии подчёркивают, что проект задумывался как тест новых технологий в реальных условиях. Никаких дополнительных показателей эффективности власти даже не собирали; главной задачей было просто понять, есть ли смысл в дальнейшем использовании подобных систем.

RSS: Новости на портале Anti-Malware.ru