Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Проведенное в «Лаборатории Касперского» исследование показало, что поддельные сайты, созданные с помощью ИИ, могут содержать следы использования таких онлайн-сервисов, которые мошенники поленились или забыли вычистить.

Рост доступности больших языковых моделей (БЯМ, LLM) способствует, в числе прочего, увеличению количества злоупотреблений.

Использование инструментов на их основе позволяет поставить генерацию контента, в том числе вредоносного, на поток, однако ИИ-помощников нельзя оставлять без присмотра, о чем не знают или забывают обманщики.

В ходе анализа на фишинговых и скамерских сайтах эксперты обнаружили такие артефакты, как ответы чат-ботов, в которых сработала встроенная защита; лексикон, характерный для известных LLM; служебные пометки со ссылкой на ИИ-сервис.

Так, из-за больших масштабов автоматизации или кривых рук на созданных ИИ страницах зачастую можно встретить извинения чат-бота, которому этикет не позволяет выполнить запрос. Взамен он предлагает «сделать что-то похожее», и это тоже попадает в паблик.

 

В данном примере присутствуют и другие свидетельства фейка — диакритический знак в слове «Login» и буква «ɱ» вместо «m» в заголовке (замена по методу тайпсквоттинга).

Использование LLM, по словам экспертов, могут также выдать характерные слова и фразы. Чат-боты OpenAI, например, часто употребляют delve («штудировать»), а конструкции вроде in the ever-evolving / ever-changing world / landscape («в изменчивом /развивающемся мире / ландшафте») использует множество нейросетей.

Предательский отказ ассистента подчиниться и другие маркеры изредка встречаются также в мегатегах поддельных сайтов. В примере ниже исследователи обнаружили еще один признак мошенничества — имя «bolygon» в URL имитации легитимного Polygon.

 

«Злоумышленники активно изучают возможности применения больших языковых моделей в разных сценариях автоматизации, но, как видно, иногда допускают ошибки, которые их выдают, — отметил руководитель группы исследований и ML-разработок в Kaspersky Владислав Тушканов. — Однако подход, основанный на определении поддельной страницы по наличию тех или иных “говорящих слов”, ненадёжен. Поэтому пользователям нужно обращать внимание на подозрительные признаки, например логические ошибки и опечатки на странице. Важно убедиться, что адрес сайта совпадает с официальным».

За 2025 год российский рынок ПО вырос на 21%

Согласно совместному исследованию Apple Hills Digital и Yandex B2B Tech, российский рынок программного обеспечения в 2025 году вырос на 21% и достиг 808 млрд рублей. По прогнозам аналитиков, к 2030 году его объем превысит 1,7 трлн рублей, а среднегодовые темпы роста составят около 15%.

Как пишет «Коммерсантъ», основными драйверами рынка стали развитие гибридной инфраструктуры в банковском секторе, внедрение ИИ для автоматизации и прогнозирования, углубление импортозамещения, а также рост государственных инвестиций в ИТ.

Отдельно аналитики отмечают увеличение доли облачных решений. К 2030 году она может вырасти до 51% против 27% по итогам 2025 года. Сегмент IaaS (инфраструктура как сервис) увеличится со 101 до 226 млрд рублей, в первую очередь за счет роста спроса на вычислительные мощности, комплексы с графическими процессорами и системы хранения данных.

Сегмент PaaS (платформа как сервис) вырастет со 117 до 277 млрд рублей. Рост обеспечат сервисы контейнеризации на базе Kubernetes, а также инфраструктура для машинного обучения и генеративного ИИ.

Сегмент SaaS (ПО как услуга), по оценке аналитиков, увеличится с 312 до 835 млрд рублей. Наибольшим спросом будут пользоваться ERP- и CRM-системы, средства коммуникации и контент-менеджмента.

При этом руководитель управления бизнес-аналитики компании Т1 Александр Фролов в комментарии изданию отметил, что развитие ИИ может одновременно стать сдерживающим фактором для SaaS-сегмента: компании получают возможность создавать сервисы под собственные задачи, что снижает спрос на тиражное программное обеспечение.

Заместитель генерального директора Astra Cloud Константин Анисимов назвал ключевыми драйверами рынка государственные инвестиции, активное внедрение ИИ и углубление импортозамещения. По его оценке, к 2028 году 95% зарубежного ПО станет устаревшим, и компании, продолжающие его использовать, будут вынуждены чаще задумываться о переходе на альтернативы.

Дополнительным фактором роста облачных услуг эксперты считают подорожание оборудования. Многие компании выбирают облака, чтобы «переждать» период высоких цен.

«Крупные облачные провайдеры частично сглаживают эффект за счет ранее закупленных мощностей, однако новые сервисы и расширение инфраструктуры уже рассчитываются исходя из текущей стоимости оборудования», — отметил генеральный директор ИТ-экосистемы «Лукоморье» Арсен Благов. По его словам, некоторые провайдеры уже повысили цены до 30%.

В числе рисков директор по продуктам Selectel Константин Ансимов назвал дефицит кадров, нежелание сотрудников адаптироваться к изменениям, связанным с внедрением ИИ, ужесточение требований к безопасности и сложность оценки рентабельности инвестиций. Заместитель коммерческого директора ActiveCloud (ГК Softline) Аслан Шингаров добавил, что серьезной проблемой остается интеграция разнородных решений в единую инфраструктуру.

RSS: Новости на портале Anti-Malware.ru