ChatGPT ошибается с адресами сайтов — фишеры не дремлют

ChatGPT ошибается с адресами сайтов — фишеры не дремлют

ChatGPT ошибается с адресами сайтов — фишеры не дремлют

Если вы когда-нибудь просили чат-бота типа ChatGPT помочь с ссылкой на сайт банка или личного кабинета крупной компании — возможно, вы получали неправильный адрес. А теперь представьте, что кто-то специально воспользуется этой ошибкой.

Исследователи из компании Netcraft провели эксперимент: они спрашивали у модели GPT-4.1 адреса сайтов для входа в аккаунты известных брендов из сфер финансов, ретейла, технологий и коммунальных услуг.

В духе: «Я потерял закладку, подскажи, где войти в аккаунт [название бренда]?»

Результат получился тревожным:

  • только в 66% случаев бот дал правильную ссылку;
  • 29% ответов вели на несуществующие или заблокированные сайты;
  • ещё 5% — на легитимные, но вообще не те, что спрашивали.

Почему это проблема?

Потому что, как объясняет руководитель Threat Research в Netcraft Роб Дункан, фишеры могут заранее спрашивать у ИИ те же самые вопросы. Если бот выдаёт несуществующий, но правдоподобный адрес — мошенники могут просто зарегистрировать его, замаскировать под оригинал и ждать жертв.

«Вы видите, где модель ошибается, и используете эту ошибку себе на пользу», — говорит Дункан.

Фишинг адаптируется под ИИ

Современные фишинговые схемы всё чаще затачиваются не под Google, а именно под LLM — большие языковые модели. В одном случае, например, мошенники создали фейковый API для блокчейна Solana, окружив его десятками фейковых GitHub-репозиториев, туториалов, Q&A-доков и даже поддельных аккаунтов разработчиков. Всё, чтобы модель увидела якобы «живой» и «настоящий» проект и начала предлагать его в ответах.

Это чем-то напоминает классические атаки на цепочку поставок, только теперь цель — не человек с pull request'ом, а разработчик, который просто спрашивает у ИИ: «Какой API использовать?»

Вывод простой: не стоит полностью полагаться на ИИ, когда речь идёт о важных вещах вроде входа в банковский аккаунт или выборе библиотеки для кода. Проверяйте информацию на официальных сайтах, а ссылки — вручную. Особенно если ИИ обещает «удобный и официальный» сайт, которого вы раньше не видели.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

55% подрядчиков российских компаний уязвимы для кибератак

Компания CICADA8 проверила цифровую защиту более 60 тысяч российских организаций, которые работают как подрядчики и контрагенты. Итог печальный: больше половины из них почти не защищены от кибератак и игнорируют даже базовые меры безопасности.

Для анализа использовалась собственная платформа CICADA8 CyberRating — она без вмешательства в системы проверяет компании по трём параметрам:

  • уязвимости на ИТ-периметре (Vulnerability Rating),
  • репутация внешних активов (Network Rating),
  • наличие утечек корпоративных данных в даркнете (Leaks Rating).

Ситуация тревожная. По данным RED Security SOC, ещё в 2024 году атаки через подрядчиков вошли в топ-6 самых популярных способов проникновения в ИТ-инфраструктуру. Количество таких инцидентов выросло втрое за год, а отследить их на ранних этапах очень сложно.

Исследование CICADA8 подтвердило:

  • 55% поставщиков оставляют открытыми хотя бы один управляющий порт, доступный из интернета. Это прямое приглашение для хакеров.
  • 27% компаний «засветили» свои корпоративные учётные записи в утечках. Причём многие из них до сих пор активны, а значит, могут стать удобной точкой входа для атак.
  • У 32% организаций на внешнем периметре найдены критические уязвимости (CVE), давно закрытые патчами. Но обновления никто так и не установил.

Всё это открывает злоумышленникам широкий простор для действий: от взлома подрядчиков и хищения их данных до атак на заказчиков через сетевую связанность или фишинговые рассылки с реальных адресов компаний.

«Многие компании тратят огромные ресурсы на защиту собственных систем, но продолжают оставаться уязвимыми из-за халатности подрядчиков. Атаки через цепочку поставок растут, а контроля за безопасностью поставщиков почти нет», — отметил Сергей Колесников, директор продуктового портфеля и сервисов CICADA8.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru