ChatGPT ошибается с адресами сайтов — фишеры не дремлют

ChatGPT ошибается с адресами сайтов — фишеры не дремлют

ChatGPT ошибается с адресами сайтов — фишеры не дремлют

Если вы когда-нибудь просили чат-бота типа ChatGPT помочь с ссылкой на сайт банка или личного кабинета крупной компании — возможно, вы получали неправильный адрес. А теперь представьте, что кто-то специально воспользуется этой ошибкой.

Исследователи из компании Netcraft провели эксперимент: они спрашивали у модели GPT-4.1 адреса сайтов для входа в аккаунты известных брендов из сфер финансов, ретейла, технологий и коммунальных услуг.

В духе: «Я потерял закладку, подскажи, где войти в аккаунт [название бренда]?»

Результат получился тревожным:

  • только в 66% случаев бот дал правильную ссылку;
  • 29% ответов вели на несуществующие или заблокированные сайты;
  • ещё 5% — на легитимные, но вообще не те, что спрашивали.

Почему это проблема?

Потому что, как объясняет руководитель Threat Research в Netcraft Роб Дункан, фишеры могут заранее спрашивать у ИИ те же самые вопросы. Если бот выдаёт несуществующий, но правдоподобный адрес — мошенники могут просто зарегистрировать его, замаскировать под оригинал и ждать жертв.

«Вы видите, где модель ошибается, и используете эту ошибку себе на пользу», — говорит Дункан.

Фишинг адаптируется под ИИ

Современные фишинговые схемы всё чаще затачиваются не под Google, а именно под LLM — большие языковые модели. В одном случае, например, мошенники создали фейковый API для блокчейна Solana, окружив его десятками фейковых GitHub-репозиториев, туториалов, Q&A-доков и даже поддельных аккаунтов разработчиков. Всё, чтобы модель увидела якобы «живой» и «настоящий» проект и начала предлагать его в ответах.

Это чем-то напоминает классические атаки на цепочку поставок, только теперь цель — не человек с pull request'ом, а разработчик, который просто спрашивает у ИИ: «Какой API использовать?»

Вывод простой: не стоит полностью полагаться на ИИ, когда речь идёт о важных вещах вроде входа в банковский аккаунт или выборе библиотеки для кода. Проверяйте информацию на официальных сайтах, а ссылки — вручную. Особенно если ИИ обещает «удобный и официальный» сайт, которого вы раньше не видели.

Операторы хотят вернуть россиянам доступ к Netflix и нейросетям без VPN

Российские операторы связи обсуждают с властями возможность открыть пользователям доступ к зарубежным сервисам, которые формально не заблокированы в России, но всё равно недоступны без VPN. Об этом на полях ПМЭФ рассказал генеральный директор «Билайна» Сергей Анохин.

По его словам, идея так называемых белых списков VPN, которую он ранее озвучивал публично, получила поддержку и теперь развивается дальше. Впрочем, речь идёт уже не совсем о VPN.

Как пояснил Анохин, операторы предлагают дать пользователям возможность напрямую открывать отдельные зарубежные сервисы, не прибегая к обходным инструментам. В качестве примеров он назвал Netflix и популярные нейросети.

«Есть сервисы, которые не подпали под ограничения со стороны Роскомнадзора за неисполнение российского законодательства, но приняли решение не работать в России. Например, ряд развлекательных сервисов, тот же Netflix, нейронные сети. Они востребованы российскими пользователями, но, чтобы ими пользоваться, нужен VPN», — отметил глава «Билайна».

Анохин считает, что у операторов есть понимание, как технически реализовать подобный механизм.

Если идея будет одобрена, может появиться своеобразный список зарубежных сервисов, доступ к которым российские пользователи смогут получать без VPN, несмотря на действующие географические ограничения со стороны самих площадок.

Фактически речь идёт о попытке решить парадоксальную ситуацию, когда сервис не запрещён российскими властями, но воспользоваться им всё равно нельзя без дополнительных инструментов.

Впрочем, до практической реализации пока далеко. Никаких сроков, перечня сервисов или технических деталей участники обсуждения не раскрывают.

RSS: Новости на портале Anti-Malware.ru