70% компаний столкнулись с атаками на LLM — чаще всего фишинг

70% компаний столкнулись с атаками на LLM — чаще всего фишинг

70% компаний столкнулись с атаками на LLM — чаще всего фишинг

Компании всё активнее внедряют большие языковые модели (LLM) в свои процессы — по оценкам, уже более 90% российских организаций используют ИИ-инструменты. Но вместе с этим растёт и число атак. По данным экспертов «Информзащиты», около 70% компаний уже столкнулись с попытками атак через LLM. Причина проста — безопасность ИИ часто остаётся «на потом», чем и пользуются злоумышленники.

Один из самых распространённых сценариев — это инъекции запросов (Prompt Injection). Суть в том, что хакер добавляет к обычному запросу фразу вроде «игнорируй предыдущие инструкции» — и модель, не различая, что к чему, может выполнить вредоносную команду.

Причём для такой атаки не нужны сложные знания: достаточно написать нужный текст — и модель поддастся.

По статистике, на такие инъекции приходится больше 40% атак на ИИ. В половине случаев их используют для фишинга, ещё в 40% — чтобы вытащить данные из систем. Под удар чаще всего попадают компании, где LLM работает на пользовательский фронт: чат-боты, умный поиск и т. д. Это особенно актуально для ретейла (37% атак), финансового сектора (25%) и телеком-компаний (17%).

Проблема ещё и в том, что безопасность часто отстаёт от скорости внедрения технологий. По оценке «Информзащиты», около 65% компаний запускают LLM без полноценной настройки и проверки. Модели могут получить доступ к внутренним базам данных, работать без ограничений по форматам запросов — и это делает их уязвимыми.

Что рекомендуют эксперты? Во-первых, регулярно проверять ИИ-инструменты на уязвимости: аудит, пентесты, оценка рисков. Во-вторых — грамотно настраивать модели: ограничивать доступ к чувствительным данным, вводить фильтры и валидацию запросов. И, наконец, подключить мониторинг — например, через SOC — чтобы вовремя замечать подозрительную активность и реагировать на атаки.

Мошенники из Азии обманывают россиян на обмене валют

Злоумышленники из стран Юго-Восточной Азии и Ближнего Востока освоили новую схему мошенничества с дистанционным обменом валюты через телеграм-боты. Подобные схемы встречались и раньше, однако отличительной особенностью текущей версии стало получение наличных по QR-коду в банкомате — услуга, широко распространённая в Таиланде и ряде других стран региона.

О новой волне скама сообщили специалисты компании F6. Аналитики зафиксировали такую активность в Китае, ОАЭ и Таиланде.

«Скамеры предлагают провести обмен на месте и получить наличные в стране пребывания через банкомат. Рекламу сервисов, обещающих выгодную конвертацию рублей в юани, баты, дирхамы и другие валюты, злоумышленники распространяют через Telegram. Для этого используется сеть из более чем 100 телеграм-ботов, а также фейковые каналы и сайты. Средняя сумма, которую мошенники принимают под предлогом обмена валюты, составляет от 20 тыс. рублей», — говорится в отчёте F6.

Помимо ботов, мошенники задействуют поддельные сервисы обмена валют. Часть из них оформлена в виде полноценных сайтов. Для создания видимости легальности на таких ресурсах указываются адреса физических офисов и номера лицензий, однако при проверке на сайтах регуляторов эти данные не подтверждаются. Специалисты F6 выявили как минимум два фейковых обменника, вокруг одного из которых была выстроена целая сеть телеграм-ботов.

«Многие туристы предпочитают менять валюту уже на месте, чтобы не возить с собой наличные. Это действительно удобно, и существуют легальные сервисы, которые оказывают такие услуги. Однако при использовании мессенджеров для любых финансовых операций риск столкнуться с мошенниками крайне высок», — предупреждает аналитик департамента Digital Risk Protection Дарья Карлова.

Ранее F6 выявила масштабную скам-сеть, ориентированную на аудиторию онлайн-игр. В рамках той кампании злоумышленники применяли 12 различных схем, нацеленных на хищение денег, включая кражу внутриигровой валюты и имущества, «угон» аккаунтов и вовлечение жертв в криминальные схемы.

RSS: Новости на портале Anti-Malware.ru