ChatGPT ошибается с адресами сайтов — фишеры не дремлют

ChatGPT ошибается с адресами сайтов — фишеры не дремлют

ChatGPT ошибается с адресами сайтов — фишеры не дремлют

Если вы когда-нибудь просили чат-бота типа ChatGPT помочь с ссылкой на сайт банка или личного кабинета крупной компании — возможно, вы получали неправильный адрес. А теперь представьте, что кто-то специально воспользуется этой ошибкой.

Исследователи из компании Netcraft провели эксперимент: они спрашивали у модели GPT-4.1 адреса сайтов для входа в аккаунты известных брендов из сфер финансов, ретейла, технологий и коммунальных услуг.

В духе: «Я потерял закладку, подскажи, где войти в аккаунт [название бренда]?»

Результат получился тревожным:

  • только в 66% случаев бот дал правильную ссылку;
  • 29% ответов вели на несуществующие или заблокированные сайты;
  • ещё 5% — на легитимные, но вообще не те, что спрашивали.

Почему это проблема?

Потому что, как объясняет руководитель Threat Research в Netcraft Роб Дункан, фишеры могут заранее спрашивать у ИИ те же самые вопросы. Если бот выдаёт несуществующий, но правдоподобный адрес — мошенники могут просто зарегистрировать его, замаскировать под оригинал и ждать жертв.

«Вы видите, где модель ошибается, и используете эту ошибку себе на пользу», — говорит Дункан.

Фишинг адаптируется под ИИ

Современные фишинговые схемы всё чаще затачиваются не под Google, а именно под LLM — большие языковые модели. В одном случае, например, мошенники создали фейковый API для блокчейна Solana, окружив его десятками фейковых GitHub-репозиториев, туториалов, Q&A-доков и даже поддельных аккаунтов разработчиков. Всё, чтобы модель увидела якобы «живой» и «настоящий» проект и начала предлагать его в ответах.

Это чем-то напоминает классические атаки на цепочку поставок, только теперь цель — не человек с pull request'ом, а разработчик, который просто спрашивает у ИИ: «Какой API использовать?»

Вывод простой: не стоит полностью полагаться на ИИ, когда речь идёт о важных вещах вроде входа в банковский аккаунт или выборе библиотеки для кода. Проверяйте информацию на официальных сайтах, а ссылки — вручную. Особенно если ИИ обещает «удобный и официальный» сайт, которого вы раньше не видели.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Фишинг в Telegram упал почти в 7 раз после блокировки звонков

После блокировки звонков через наиболее популярные мессенджеры количество случаев фишинга и мошенничества в них резко сократилось. Однако злоумышленники быстро находят обходные пути и даже научились использовать ограничения в своих целях.

По данным проекта «Доменный патруль» Координационного центра доменов .RU/.РФ, в августе число фишинговых доменов, связанных с Telegram, уменьшилось почти в семь раз — до 190 против 1325 в июле.

В WhatsApp (принадлежит корпорации Meta, признанной экстремистской и запрещённой в РФ) снижение оказалось менее заметным: со 177 до 118 доменов. Такие цифры привёл в беседе с «Известиями» аналитик Координационного центра Евгений Панков.

Вместе с тем он предупредил: о долгосрочном эффекте блокировок голосовых вызовов пока говорить рано. «Мошенники быстро адаптируются и находят новые точки входа. Абсолютно точно можно сказать, что они не откажутся от проверенных инструментов — фишинговых e-mail-рассылок и создания поддельных сайтов популярных брендов и онлайн-сервисов», — отметил эксперт.

Панков также напомнил о традиционной осенней активизации преступников, когда количество атак заметно возрастает.

В Минцифры связывают сокращение числа фишинговых доменов с совместной работой государства и операторов электронных площадок. Ведомство готовит «второй пакет» мер по борьбе с мошенничеством, о чём первый вице-премьер Дмитрий Григоренко доложил президенту. Среди предложений — самозапрет на международные звонки. Законопроект планируют внести в Госдуму уже этой осенью.

По мнению депутата Госдумы Антона Немкина, зарубежные мессенджеры остаются небезопасной средой, а усилия их администрации недостаточны:

«Мы видим, что Telegram предпринимает определённые шаги против фишинга. Однако зачастую это реактивные меры, которые принимаются постфактум, когда проблема уже обострилась. При этом сами мессенджеры создают удобную почву для злоумышленников: анонимные аккаунты, сложности с идентификацией реальных лиц, быстрый обмен ссылками — всё это превращает их в площадку повышенного риска».

Как отметил оперуполномоченный по особо важным делам отдела по раскрытию мошенничеств управления уголовного розыска МВД по Республике Татарстан Радис Юсупов, количество мошеннических звонков после блокировки в Telegram и WhatsApp всё же снизилось. Одним из способов обхода злоумышленники используют технологию MAX, но пока такие случаи единичны.

По словам руководителя департамента информационно-аналитических исследований компании T.Hunter Игоря Бедерова, мошенники переключились на звонки с иностранных номеров и на стационарные телефоны.

Кроме того, они «откатились» к старым схемам — массовым СМС-рассылкам и звонкам с подменённых номеров, имитирующих банки или государственные органы. Всё чаще злоумышленники создают точные копии сайтов маркетплейсов, банков и игровых платформ.

В таких условиях, как подчеркнула старший контент-аналитик «Лаборатории Касперского» Ольга Алтухова, особенно важно соблюдать базовые правила цифровой безопасности: не переходить по ссылкам из сомнительных сообщений, не вводить личные данные на подозрительных сайтах, использовать двухфакторную аутентификацию и применять защитные решения.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru