ChatGPT ошибается с адресами сайтов — фишеры не дремлют

ChatGPT ошибается с адресами сайтов — фишеры не дремлют

ChatGPT ошибается с адресами сайтов — фишеры не дремлют

Если вы когда-нибудь просили чат-бота типа ChatGPT помочь с ссылкой на сайт банка или личного кабинета крупной компании — возможно, вы получали неправильный адрес. А теперь представьте, что кто-то специально воспользуется этой ошибкой.

Исследователи из компании Netcraft провели эксперимент: они спрашивали у модели GPT-4.1 адреса сайтов для входа в аккаунты известных брендов из сфер финансов, ретейла, технологий и коммунальных услуг.

В духе: «Я потерял закладку, подскажи, где войти в аккаунт [название бренда]?»

Результат получился тревожным:

  • только в 66% случаев бот дал правильную ссылку;
  • 29% ответов вели на несуществующие или заблокированные сайты;
  • ещё 5% — на легитимные, но вообще не те, что спрашивали.

Почему это проблема?

Потому что, как объясняет руководитель Threat Research в Netcraft Роб Дункан, фишеры могут заранее спрашивать у ИИ те же самые вопросы. Если бот выдаёт несуществующий, но правдоподобный адрес — мошенники могут просто зарегистрировать его, замаскировать под оригинал и ждать жертв.

«Вы видите, где модель ошибается, и используете эту ошибку себе на пользу», — говорит Дункан.

Фишинг адаптируется под ИИ

Современные фишинговые схемы всё чаще затачиваются не под Google, а именно под LLM — большие языковые модели. В одном случае, например, мошенники создали фейковый API для блокчейна Solana, окружив его десятками фейковых GitHub-репозиториев, туториалов, Q&A-доков и даже поддельных аккаунтов разработчиков. Всё, чтобы модель увидела якобы «живой» и «настоящий» проект и начала предлагать его в ответах.

Это чем-то напоминает классические атаки на цепочку поставок, только теперь цель — не человек с pull request'ом, а разработчик, который просто спрашивает у ИИ: «Какой API использовать?»

Вывод простой: не стоит полностью полагаться на ИИ, когда речь идёт о важных вещах вроде входа в банковский аккаунт или выборе библиотеки для кода. Проверяйте информацию на официальных сайтах, а ссылки — вручную. Особенно если ИИ обещает «удобный и официальный» сайт, которого вы раньше не видели.

Аэрофлот и Сбер хотят подключить ИИ-агентов к покупке поездок

Аэрофлот и Сбер договорились вместе разрабатывать решения для транспортной отрасли на основе генеративного искусственного интеллекта. Соглашение подписали на ПМЭФ-2026 гендиректор Аэрофлота Сергей Александровский и глава Сбербанка Герман Греф.

Партнёрство рассчитано на три года. За это время компании планируют обмениваться опытом, тестировать цифровые продукты и внедрять сервисы для автоматизации бизнес-процессов. Отдельный акцент сделают на технологиях ИИ.

Самая интересная часть соглашения — идея связать интеллектуальных ИИ-агентов Аэрофлота и Сбера в единую экосистему. По задумке, такие агенты смогут взаимодействовать друг с другом напрямую, без человека-оператора, и решать комплексные задачи в реальном времени.

На практике это может привести к появлению более цельного клиентского сценария. Например, пользователь выбирает рейс, оплачивает билет, оформляет страховку и покупает дополнительные тревел-услуги без прыжков между приложениями и без бесконечного повторного ввода одних и тех же данных.

Звучит как попытка наконец-то убрать из покупки поездки цифровую возню, к которой все давно привыкли. Потому что сейчас даже простой маршрут может превратиться в мини-квест: билет здесь, страховка там, ещё один сервис в отдельном окне, данные вводим заново, терпение теряем по дороге.

Пока речь идёт о развитии технологии и совместной работе, а не о готовом сервисе, который появится завтра утром. Но направление понятно: крупные игроки хотят встроить ИИ не только в чат-боты и поддержку, а в саму логику покупки и сопровождения поездки.

Если проект дойдёт до работающего продукта, ИИ-агенты смогут взять на себя часть рутины, а пользователю останется меньше кнопок, меньше форм и меньше раздражения. В тревеле это уже звучит почти как роскошь.

RSS: Новости на портале Anti-Malware.ru