Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Проведенное в «Лаборатории Касперского» исследование показало, что поддельные сайты, созданные с помощью ИИ, могут содержать следы использования таких онлайн-сервисов, которые мошенники поленились или забыли вычистить.

Рост доступности больших языковых моделей (БЯМ, LLM) способствует, в числе прочего, увеличению количества злоупотреблений.

Использование инструментов на их основе позволяет поставить генерацию контента, в том числе вредоносного, на поток, однако ИИ-помощников нельзя оставлять без присмотра, о чем не знают или забывают обманщики.

В ходе анализа на фишинговых и скамерских сайтах эксперты обнаружили такие артефакты, как ответы чат-ботов, в которых сработала встроенная защита; лексикон, характерный для известных LLM; служебные пометки со ссылкой на ИИ-сервис.

Так, из-за больших масштабов автоматизации или кривых рук на созданных ИИ страницах зачастую можно встретить извинения чат-бота, которому этикет не позволяет выполнить запрос. Взамен он предлагает «сделать что-то похожее», и это тоже попадает в паблик.

 

В данном примере присутствуют и другие свидетельства фейка — диакритический знак в слове «Login» и буква «ɱ» вместо «m» в заголовке (замена по методу тайпсквоттинга).

Использование LLM, по словам экспертов, могут также выдать характерные слова и фразы. Чат-боты OpenAI, например, часто употребляют delve («штудировать»), а конструкции вроде in the ever-evolving / ever-changing world / landscape («в изменчивом /развивающемся мире / ландшафте») использует множество нейросетей.

Предательский отказ ассистента подчиниться и другие маркеры изредка встречаются также в мегатегах поддельных сайтов. В примере ниже исследователи обнаружили еще один признак мошенничества — имя «bolygon» в URL имитации легитимного Polygon.

 

«Злоумышленники активно изучают возможности применения больших языковых моделей в разных сценариях автоматизации, но, как видно, иногда допускают ошибки, которые их выдают, — отметил руководитель группы исследований и ML-разработок в Kaspersky Владислав Тушканов. — Однако подход, основанный на определении поддельной страницы по наличию тех или иных “говорящих слов”, ненадёжен. Поэтому пользователям нужно обращать внимание на подозрительные признаки, например логические ошибки и опечатки на странице. Важно убедиться, что адрес сайта совпадает с официальным».

В 2025 году спрос на ИИ-кадры в России возрос на 17%

По данным J’son & Partners Consulting, потребность российской экономики в специалистах в области ИИ в среднем на 5% превышает число предложений на рынке, и в ближайшие годы этот разрыв будет только увеличиваться.

В 2025 году аналитики зафиксировали рост спроса на подобные кадры на 17% — до 199 тыс. вакансий против 170 тыс. в 2024-м. Примечательна также такая цифра: в 2020-2025 годах доля спроса на ИИ-кадры в общем объеме потребности в ИТ-кадрах увеличилась почти в два раза.

Количество ИИ-экспертов в стране сейчас, по оценкам, составляет 100-120 тысяч (+15% в сравнении с 2024 годом). Из них 1-3 тыс. — это ML-инженеры, остальные — специалисты по созданию и интеграции ИИ-решений.

Основная причина разрыва между спросом и предложением — стремительное освоение ИИ-технологий. В России это происходит в рамках Национальной стратегии по развитию ИИ.

Системы образования не успевают приспосабливаться к новшествам: по оценкам, на перестройку учебных программ и процессов в таких случаях требуется от 7 до 10 лет. За это время требования к компетенциям выпускников успеют смениться несколько раз.

Российские вузы, колледжи, школы демонстрируют готовность адаптироваться к изменениям. Руку помощи им в подготовке востребованных кадров протянули крупные представители ИТ-отрасли, а государство при этом взяло на себя роль медиатора, тиражирующего лучшие практики.

 

В комментарии для «Ведомостей» заместитель гендиректора J’son & Partners Consulting Максим Столповский отметил, что на реализацию программ по подготовке аналитиков больших данных государство уже выделило около 15 млрд рублей. Со стороны бизнеса предполагается софинансирование в объеме не менее 6,4 млрд рублей.

Тем не менее, несмотря на запуск большого количества образовательных программ по ИИ, в том числе бесплатных, рост разрыва между спросом и предложением на этом рынке сохранится как минимум еще 2-3 года.

Основным вызовом в подготовке ИИ-кадров является нехватка преподавателей. В настоящее время эта проблема решается за счет дообучения принятых на работу выпускников смежных профессий.

Столповский считает, что эффективнее было бы привлекать к процессу преподавания профессионалов-практиков из частных компаний. Примеры тому в России уже есть; так, команда экспертов, оказывающих учебным заведениям менторскую помощь в рамках проекта VK Education (более 1100 человек, по итогам 2025 года), пополнилась знатоками ИИ.

Компания «Яндекс» в будущем году собирается предложить вузам помощь в обучении сотрудников применению ИИ в преподавании, научной работе, управлении процессом передачи знаний и практических навыков.

RSS: Новости на портале Anti-Malware.ru