ChatGPT ошибается с адресами сайтов — фишеры не дремлют

ChatGPT ошибается с адресами сайтов — фишеры не дремлют

ChatGPT ошибается с адресами сайтов — фишеры не дремлют

Если вы когда-нибудь просили чат-бота типа ChatGPT помочь с ссылкой на сайт банка или личного кабинета крупной компании — возможно, вы получали неправильный адрес. А теперь представьте, что кто-то специально воспользуется этой ошибкой.

Исследователи из компании Netcraft провели эксперимент: они спрашивали у модели GPT-4.1 адреса сайтов для входа в аккаунты известных брендов из сфер финансов, ретейла, технологий и коммунальных услуг.

В духе: «Я потерял закладку, подскажи, где войти в аккаунт [название бренда]?»

Результат получился тревожным:

  • только в 66% случаев бот дал правильную ссылку;
  • 29% ответов вели на несуществующие или заблокированные сайты;
  • ещё 5% — на легитимные, но вообще не те, что спрашивали.

Почему это проблема?

Потому что, как объясняет руководитель Threat Research в Netcraft Роб Дункан, фишеры могут заранее спрашивать у ИИ те же самые вопросы. Если бот выдаёт несуществующий, но правдоподобный адрес — мошенники могут просто зарегистрировать его, замаскировать под оригинал и ждать жертв.

«Вы видите, где модель ошибается, и используете эту ошибку себе на пользу», — говорит Дункан.

Фишинг адаптируется под ИИ

Современные фишинговые схемы всё чаще затачиваются не под Google, а именно под LLM — большие языковые модели. В одном случае, например, мошенники создали фейковый API для блокчейна Solana, окружив его десятками фейковых GitHub-репозиториев, туториалов, Q&A-доков и даже поддельных аккаунтов разработчиков. Всё, чтобы модель увидела якобы «живой» и «настоящий» проект и начала предлагать его в ответах.

Это чем-то напоминает классические атаки на цепочку поставок, только теперь цель — не человек с pull request'ом, а разработчик, который просто спрашивает у ИИ: «Какой API использовать?»

Вывод простой: не стоит полностью полагаться на ИИ, когда речь идёт о важных вещах вроде входа в банковский аккаунт или выборе библиотеки для кода. Проверяйте информацию на официальных сайтах, а ссылки — вручную. Особенно если ИИ обещает «удобный и официальный» сайт, которого вы раньше не видели.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Российский рынок ИБ вырос на 27% в 2024 году — инвестировали 339 млрд руб.

В 2024 году российские компании, госструктуры и обычные пользователи вложили в решения и услуги по информационной безопасности 339 миллиардов рублей. Это на 27% больше, чем годом ранее, говорится в исследовании компании «Стрим Консалтинг».

На «железо» пришлось 28% всех затрат, на софт — 23%. Также заметно подрос рынок ИБ-сервисов и техподдержки — сразу на 29%.

Одним из самых активных направлений стали межсетевые экраны — как обычные (FW), так и «продвинутые» (NGFW). В сегменте аппаратных решений траты на NGFW выросли на 37%, на классические FW — на 26%.

По данным исследования, лидером среди производителей аппаратных решений по ИБ стала компания «Код Безопасности».

«Сетевая безопасность — это по-прежнему самое крупное направление на рынке ИБ, и межсетевые экраны играют в нём ключевую роль: это многофункциональные устройства, которые позволяют отбиваться сразу от нескольких видов угроз», — говорит Павел Коростелев, руководитель отдела продвижения продуктов в «Коде Безопасности».

Он также отметил, что спрос на такие решения в ближайшие годы может немного «остыть» — многие организации уже успели перейти на отечественные аналоги. Но в целом до 2029 года расходы на NGFW будут расти в среднем на 14% в год, а на обычные FW — на 8%. В целом, по его словам, расходы на аппаратные продукты будут увеличиваться примерно на 14% ежегодно.

Эксперты связывают рост рынка с тремя основными факторами: активным импортозамещением, ростом числа киберугроз и усилением регулирования в сфере ИБ.

Основными потребителями решений по безопасности остаются крупные компании с выручкой от 2 до 25 млрд рублей и выше, а также федеральные и региональные госорганы.

Если текущие темпы сохранятся, то к 2029 году объём российского рынка информационной безопасности может достигнуть 743 миллиардов рублей.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru