Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Проведенное в «Лаборатории Касперского» исследование показало, что поддельные сайты, созданные с помощью ИИ, могут содержать следы использования таких онлайн-сервисов, которые мошенники поленились или забыли вычистить.

Рост доступности больших языковых моделей (БЯМ, LLM) способствует, в числе прочего, увеличению количества злоупотреблений.

Использование инструментов на их основе позволяет поставить генерацию контента, в том числе вредоносного, на поток, однако ИИ-помощников нельзя оставлять без присмотра, о чем не знают или забывают обманщики.

В ходе анализа на фишинговых и скамерских сайтах эксперты обнаружили такие артефакты, как ответы чат-ботов, в которых сработала встроенная защита; лексикон, характерный для известных LLM; служебные пометки со ссылкой на ИИ-сервис.

Так, из-за больших масштабов автоматизации или кривых рук на созданных ИИ страницах зачастую можно встретить извинения чат-бота, которому этикет не позволяет выполнить запрос. Взамен он предлагает «сделать что-то похожее», и это тоже попадает в паблик.

 

В данном примере присутствуют и другие свидетельства фейка — диакритический знак в слове «Login» и буква «ɱ» вместо «m» в заголовке (замена по методу тайпсквоттинга).

Использование LLM, по словам экспертов, могут также выдать характерные слова и фразы. Чат-боты OpenAI, например, часто употребляют delve («штудировать»), а конструкции вроде in the ever-evolving / ever-changing world / landscape («в изменчивом /развивающемся мире / ландшафте») использует множество нейросетей.

Предательский отказ ассистента подчиниться и другие маркеры изредка встречаются также в мегатегах поддельных сайтов. В примере ниже исследователи обнаружили еще один признак мошенничества — имя «bolygon» в URL имитации легитимного Polygon.

 

«Злоумышленники активно изучают возможности применения больших языковых моделей в разных сценариях автоматизации, но, как видно, иногда допускают ошибки, которые их выдают, — отметил руководитель группы исследований и ML-разработок в Kaspersky Владислав Тушканов. — Однако подход, основанный на определении поддельной страницы по наличию тех или иных “говорящих слов”, ненадёжен. Поэтому пользователям нужно обращать внимание на подозрительные признаки, например логические ошибки и опечатки на странице. Важно убедиться, что адрес сайта совпадает с официальным».

Yandex Cloud поможет «СОГАЗу» и «Ингосстраху» оценивать киберриски

«СОГАЗ» и «Ингосстрах» вместе с Yandex B2B Tech запустили программы киберстрахования для бизнеса. Страховщики отвечают за финансовую защиту, а Yandex Cloud проверяет облачную инфраструктуру клиента и помогает понять, на каких условиях ему можно выдать полис.

Оценка проводится с помощью Yandex Security Deck. Сервис автоматически анализирует облачные ресурсы, приложения и данные: ищет открытые внутренние сведения, избыточные права пользователей, риски утечек и возможной компрометации инфраструктуры.

Обнаруженные проблемы собираются в одном интерфейсе и ранжируются по приоритету. Результаты получает сам клиент. Он может передать отчёт страховой компании, которая использует его при расчёте условий полиса. Если проверка обнаружит серьёзные дыры, Yandex Cloud предложит способы их закрыть.

Такой подход должен заменить традиционную анкету, которую бизнес заполняет вручную. Бумага, как известно, терпит всё: в ней можно забыть лишнего администратора или не заметить открытое хранилище. Автоматическая проверка показывает актуальное состояние облачной инфраструктуры и даёт страховщику больше данных для оценки риска.

Интерес к киберстрахованию тем временем растёт. По данным «СОГАЗа», за первое полугодие 2026 года совокупный объём страховой защиты от киберрисков, запрошенной клиентами компании, удвоился год к году и превысил 12 млрд рублей.

В результате бизнесу предлагают комплект из трёх деталей: диагностики, технической защиты и компенсации ущерба при инциденте. Страховщики получают более точную картину рисков, а клиент — шанс узнать о дыре в облаке до того, как её найдут злоумышленники. Потому что страховой полис — вещь полезная, но незакрытый бакет он всё-таки не починит.

RSS: Новости на портале Anti-Malware.ru