ChatGPT ошибается с адресами сайтов — фишеры не дремлют

ChatGPT ошибается с адресами сайтов — фишеры не дремлют

ChatGPT ошибается с адресами сайтов — фишеры не дремлют

Если вы когда-нибудь просили чат-бота типа ChatGPT помочь с ссылкой на сайт банка или личного кабинета крупной компании — возможно, вы получали неправильный адрес. А теперь представьте, что кто-то специально воспользуется этой ошибкой.

Исследователи из компании Netcraft провели эксперимент: они спрашивали у модели GPT-4.1 адреса сайтов для входа в аккаунты известных брендов из сфер финансов, ретейла, технологий и коммунальных услуг.

В духе: «Я потерял закладку, подскажи, где войти в аккаунт [название бренда]?»

Результат получился тревожным:

  • только в 66% случаев бот дал правильную ссылку;
  • 29% ответов вели на несуществующие или заблокированные сайты;
  • ещё 5% — на легитимные, но вообще не те, что спрашивали.

Почему это проблема?

Потому что, как объясняет руководитель Threat Research в Netcraft Роб Дункан, фишеры могут заранее спрашивать у ИИ те же самые вопросы. Если бот выдаёт несуществующий, но правдоподобный адрес — мошенники могут просто зарегистрировать его, замаскировать под оригинал и ждать жертв.

«Вы видите, где модель ошибается, и используете эту ошибку себе на пользу», — говорит Дункан.

Фишинг адаптируется под ИИ

Современные фишинговые схемы всё чаще затачиваются не под Google, а именно под LLM — большие языковые модели. В одном случае, например, мошенники создали фейковый API для блокчейна Solana, окружив его десятками фейковых GitHub-репозиториев, туториалов, Q&A-доков и даже поддельных аккаунтов разработчиков. Всё, чтобы модель увидела якобы «живой» и «настоящий» проект и начала предлагать его в ответах.

Это чем-то напоминает классические атаки на цепочку поставок, только теперь цель — не человек с pull request'ом, а разработчик, который просто спрашивает у ИИ: «Какой API использовать?»

Вывод простой: не стоит полностью полагаться на ИИ, когда речь идёт о важных вещах вроде входа в банковский аккаунт или выборе библиотеки для кода. Проверяйте информацию на официальных сайтах, а ссылки — вручную. Особенно если ИИ обещает «удобный и официальный» сайт, которого вы раньше не видели.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Каждое третье внедрение ИИ в бизнесе не взлетает из-за ограничений ИБ

Проблемы с согласованием, нехватка компетенций и страх «не взлетит» — именно так сегодня выглядит барьер на пути к полноценному внедрению ИИ-решений в бизнес-процессы. Свежие цифры прозвучали на конференции «Tech2B Conf: путь реалиста».

Главный барьер — человек, за ним ИБ

По данным исследования Сколково, 50% компаний сталкиваются с сопротивлением изменениям: сотрудники не готовы работать по-новому. На втором месте — ограничения со стороны ИБ-службы: 36% респондентов не получают согласования для запуска ИИ-пилотов. Столько же боятся потратить ресурсы впустую.

 

Ещё один фактор — высокая стоимость внедрения: её назвали 29% участников. В числе других барьеров:

  • 21% — нехватка ИТ- и отраслевых компетенций
  • 14% — отсутствие успешных кейсов

Представители цифровых департаментов компаний Росатом, К2Тех, ЕвроХим, ПИК, MWS AI обсуждали, какие гипотезы по внедрению ИИ стоит доводить до пилота, а какие — проще сразу закрыть. Один из выводов: без прозрачного процесса согласования, где в команде будут не только техспециалисты, но и юристы, безопасники и экономисты, запуск ИИ-продукта в прод невозможен.

Технологии: рынок пока под контролем внешнего ПО

Отдельно обсуждалась структура ИИ-рынка. Согласно исследованию, 80% решений, используемых в бизнесе в России, — это зарубежные open-source модели. На отечественные проприетарные ИИ-платформы приходится 13%, и лишь 8% используют российские разработки с открытым исходным кодом.

 

Для критически важных отраслей это означает дополнительные риски как в части ИБ, так и в вопросах технологического суверенитета.

 

Шесть условий, при которых ИИ «взлетает»

Участники сессии выделили шесть ключевых факторов, которые позволяют ИИ-проекту дойти до внедрения:

  1. Внутренний амбассадор — сильный первый заказчик.
  2. Короткий time-to-market — нельзя давать бизнесу «устать» от пилота.
  3. Платформенный подход — не зацикливаться на одной модели.
  4. Измеримый эффект — понятный бизнесу результат.
  5. Комплексное планирование — общий план развития и портфель решений.
  6. Команда от бизнеса — люди, которые понимают задачи клиента.

При этом критически важна точка остановки — момент, когда нужно принять решение: масштабировать или свернуть проект. Такой подход позволяет накапливать опыт и избегать стратегических провалов, в том числе связанных с ИБ. 

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru