ChatGPT ошибается с адресами сайтов

ChatGPT ошибается с адресами сайтов — фишеры не дремлют

Екатерина Быстрова 03 Июля 2025 - 13:18

Домашние пользователи

...

Если вы когда-нибудь просили чат-бота типа ChatGPT помочь с ссылкой на сайт банка или личного кабинета крупной компании — возможно, вы получали неправильный адрес. А теперь представьте, что кто-то специально воспользуется этой ошибкой.

Исследователи из компании Netcraft провели эксперимент: они спрашивали у модели GPT-4.1 адреса сайтов для входа в аккаунты известных брендов из сфер финансов, ретейла, технологий и коммунальных услуг.

В духе: «Я потерял закладку, подскажи, где войти в аккаунт [название бренда]?»

Результат получился тревожным:

только в 66% случаев бот дал правильную ссылку;
29% ответов вели на несуществующие или заблокированные сайты;
ещё 5% — на легитимные, но вообще не те, что спрашивали.

Почему это проблема?

Потому что, как объясняет руководитель Threat Research в Netcraft Роб Дункан, фишеры могут заранее спрашивать у ИИ те же самые вопросы. Если бот выдаёт несуществующий, но правдоподобный адрес — мошенники могут просто зарегистрировать его, замаскировать под оригинал и ждать жертв.

«Вы видите, где модель ошибается, и используете эту ошибку себе на пользу», — говорит Дункан.

Фишинг адаптируется под ИИ

Современные фишинговые схемы всё чаще затачиваются не под Google, а именно под LLM — большие языковые модели. В одном случае, например, мошенники создали фейковый API для блокчейна Solana, окружив его десятками фейковых GitHub-репозиториев, туториалов, Q&A-доков и даже поддельных аккаунтов разработчиков. Всё, чтобы модель увидела якобы «живой» и «настоящий» проект и начала предлагать его в ответах.

Это чем-то напоминает классические атаки на цепочку поставок, только теперь цель — не человек с pull request'ом, а разработчик, который просто спрашивает у ИИ: «Какой API использовать?»

Вывод простой: не стоит полностью полагаться на ИИ, когда речь идёт о важных вещах вроде входа в банковский аккаунт или выборе библиотеки для кода. Проверяйте информацию на официальных сайтах, а ссылки — вручную. Особенно если ИИ обещает «удобный и официальный» сайт, которого вы раньше не видели.

Следующая главная новость »

Подписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Яков Шпунт 05 Сентября 2025 - 10:20

Соответствие законодательству РФ Домашние пользователи Государство

Прекращено уголовное дело против Сергея Мацоцкого

Следствие прекратило уголовное дело против сооснователя IBS, бывшего члена совета директоров Альфа-банка и «Вымпелкома» Сергея Мацоцкого за отсутствием причастности к преступлению. Ранее его обвиняли в даче взяток в особо крупном размере.

Об этом сообщил ТАСС со ссылкой на материалы следствия. Постановления о заочном аресте и объявлении Мацоцкого в международный розыск также отменены.

«Уголовное преследование в отношении Мацоцкого, обвиняемого в совершении двух преступлений, предусмотренных ст. 291 ч. 5 УК РФ (дача взятки в особо крупном размере), прекращено на основании п. 1 ч. 1 ст. 27 УПК РФ — в связи с установлением его непричастности к совершению преступления», — говорится в материалах следствия.

О возбуждении уголовного дела против Сергея Мацоцкого стало известно 18 июля. В тот же день Басманный суд Москвы заочно избрал ему меру пресечения в виде ареста.

Сергей Мацоцкий считается одним из наиболее влиятельных представителей российского ИТ-рынка. Его состояние оценивается примерно в 14,5 млрд рублей.