Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Проведенное в «Лаборатории Касперского» исследование показало, что поддельные сайты, созданные с помощью ИИ, могут содержать следы использования таких онлайн-сервисов, которые мошенники поленились или забыли вычистить.

Рост доступности больших языковых моделей (БЯМ, LLM) способствует, в числе прочего, увеличению количества злоупотреблений.

Использование инструментов на их основе позволяет поставить генерацию контента, в том числе вредоносного, на поток, однако ИИ-помощников нельзя оставлять без присмотра, о чем не знают или забывают обманщики.

В ходе анализа на фишинговых и скамерских сайтах эксперты обнаружили такие артефакты, как ответы чат-ботов, в которых сработала встроенная защита; лексикон, характерный для известных LLM; служебные пометки со ссылкой на ИИ-сервис.

Так, из-за больших масштабов автоматизации или кривых рук на созданных ИИ страницах зачастую можно встретить извинения чат-бота, которому этикет не позволяет выполнить запрос. Взамен он предлагает «сделать что-то похожее», и это тоже попадает в паблик.

 

В данном примере присутствуют и другие свидетельства фейка — диакритический знак в слове «Login» и буква «ɱ» вместо «m» в заголовке (замена по методу тайпсквоттинга).

Использование LLM, по словам экспертов, могут также выдать характерные слова и фразы. Чат-боты OpenAI, например, часто употребляют delve («штудировать»), а конструкции вроде in the ever-evolving / ever-changing world / landscape («в изменчивом /развивающемся мире / ландшафте») использует множество нейросетей.

Предательский отказ ассистента подчиниться и другие маркеры изредка встречаются также в мегатегах поддельных сайтов. В примере ниже исследователи обнаружили еще один признак мошенничества — имя «bolygon» в URL имитации легитимного Polygon.

 

«Злоумышленники активно изучают возможности применения больших языковых моделей в разных сценариях автоматизации, но, как видно, иногда допускают ошибки, которые их выдают, — отметил руководитель группы исследований и ML-разработок в Kaspersky Владислав Тушканов. — Однако подход, основанный на определении поддельной страницы по наличию тех или иных “говорящих слов”, ненадёжен. Поэтому пользователям нужно обращать внимание на подозрительные признаки, например логические ошибки и опечатки на странице. Важно убедиться, что адрес сайта совпадает с официальным».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Рынок корпоративного ИБ-образования в России вырос до 3 млрд рублей

Группа компаний «Солар» совместно с консалтинговым агентством KASATKIN CONSULTING представила исследование рынка корпоративного образования в сфере информационной безопасности. По его данным, по итогам 2024 года объём этого рынка достиг 3,07 млрд рублей, что на 10% больше, чем годом ранее.

Аналитики отмечают, что развитие ИБ-образования идёт следом за ростом рынка кибербезопасности в целом. К 2026 году объём рынка может вырасти до 3,38 млрд рублей при среднегодовом темпе роста около 8%.

Главные заказчики — крупные и крупнейшие компании, на которые приходится 83% спроса. Именно они активнее других вкладываются в подготовку специалистов: их бюджеты на обучение растут примерно на 24% в год, что сопоставимо с ростом собственных доходов. В среднем крупный бизнес тратит на обучение 0,13% от выручки, а крупнейшие корпорации — 0,05%.

Самыми активными инвесторами в развитие ИБ-компетенций остаются финансовый сектор и ТЭК (41%), а также ритейл и FMCG (21%).

Рост рынка, по мнению экспертов, обеспечивают три ключевых фактора. Во-первых, усиление требований государства, когда наличие сертифицированных специалистов становится обязательным для получения лицензий. Во-вторых, новые угрозы, связанные с ИИ, и усложнение ИТ-инфраструктур, что требует постоянного обновления знаний. В-третьих, курс на импортозамещение, который стимулирует создание отечественных программ обучения и адаптацию зарубежных курсов.

По словам аналитиков, сегодня компании переходят от обучения «для галочки» к практической подготовке команд. Все чаще востребованы программы по SOC, DevSecOps, форензике, а также тренировки на киберполигонах. Растет популярность гибридных форматов — сочетания онлайн-теории и офлайн-практики, а также индивидуальных образовательных треков.

«Рынок ИБ-образования взрослеет: обучение становится не просто инструментом получения сертификата, а способом укрепления компетенций команд. В 2026 году выиграют те, кто связывает развитие сотрудников с внедрением отечественных решений и реальными задачами бизнеса», — отметил Дмитрий Касаткин, управляющий партнёр KASATKIN CONSULTING.

Как добавляют в ГК «Солар», компании всё чаще рассматривают инвестиции в обучение как стратегический элемент защиты бизнеса. Особое внимание уделяется программам, где можно отработать навыки на реальных кейсах — например, тестирование на проникновение, безопасная разработка или работа в SOC.

Отдельный тренд — рост числа специалистов уровня middle, которые переходят в ИБ из смежных ИТ-направлений. Это говорит о том, что компании всё чаще растят собственных специалистов, развивая их практические навыки внутри организации.

Эксперты уверены: спрос на качественные прикладные программы будет только расти, поскольку разрыв между академическими знаниями и реальными потребностями бизнеса по-прежнему велик.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru