Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Проведенное в «Лаборатории Касперского» исследование показало, что поддельные сайты, созданные с помощью ИИ, могут содержать следы использования таких онлайн-сервисов, которые мошенники поленились или забыли вычистить.

Рост доступности больших языковых моделей (БЯМ, LLM) способствует, в числе прочего, увеличению количества злоупотреблений.

Использование инструментов на их основе позволяет поставить генерацию контента, в том числе вредоносного, на поток, однако ИИ-помощников нельзя оставлять без присмотра, о чем не знают или забывают обманщики.

В ходе анализа на фишинговых и скамерских сайтах эксперты обнаружили такие артефакты, как ответы чат-ботов, в которых сработала встроенная защита; лексикон, характерный для известных LLM; служебные пометки со ссылкой на ИИ-сервис.

Так, из-за больших масштабов автоматизации или кривых рук на созданных ИИ страницах зачастую можно встретить извинения чат-бота, которому этикет не позволяет выполнить запрос. Взамен он предлагает «сделать что-то похожее», и это тоже попадает в паблик.

 

В данном примере присутствуют и другие свидетельства фейка — диакритический знак в слове «Login» и буква «ɱ» вместо «m» в заголовке (замена по методу тайпсквоттинга).

Использование LLM, по словам экспертов, могут также выдать характерные слова и фразы. Чат-боты OpenAI, например, часто употребляют delve («штудировать»), а конструкции вроде in the ever-evolving / ever-changing world / landscape («в изменчивом /развивающемся мире / ландшафте») использует множество нейросетей.

Предательский отказ ассистента подчиниться и другие маркеры изредка встречаются также в мегатегах поддельных сайтов. В примере ниже исследователи обнаружили еще один признак мошенничества — имя «bolygon» в URL имитации легитимного Polygon.

 

«Злоумышленники активно изучают возможности применения больших языковых моделей в разных сценариях автоматизации, но, как видно, иногда допускают ошибки, которые их выдают, — отметил руководитель группы исследований и ML-разработок в Kaspersky Владислав Тушканов. — Однако подход, основанный на определении поддельной страницы по наличию тех или иных “говорящих слов”, ненадёжен. Поэтому пользователям нужно обращать внимание на подозрительные признаки, например логические ошибки и опечатки на странице. Важно убедиться, что адрес сайта совпадает с официальным».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Российские компании ждут камбэк Zoom и Teams, но 43% уже мигрируют

ИТ-руководители 200 крупных и средних российских компаний рассказали, как устроены их корпоративные коммуникации и какие решения они используют. Исследование провели «Инфосистемы Джет» совместно с Издательством «Открытые системы».

Главный вывод: бизнес по-прежнему считает корпоративные коммуникации критически важными — 59% участников исследования оценили их значимость как высокую, ещё 31% — как среднюю.

Особенно это актуально для крупных компаний с распределёнными командами и сложными цифровыми цепочками взаимодействий.

Российские решения набирают вес, но доверие к ним пока ограничено

После ухода иностранных поставщиков программного обеспечения многие компании оказались перед выбором: остаться на старых системах без поддержки или переходить на отечественные аналоги. По данным исследования, 43% уже находятся в процессе миграции, а ещё 28% рассматривают переход в ближайшее время.

При этом почти половина респондентов признались, что продолжат использовать иностранные продукты, если появится такая возможность.

 

«Многие компании ждут возвращения зарубежных вендоров, но остальные уже планируют будущее с российским ПО. Исследование подтвердило, что системы коммуникаций имеют высокую бизнес-критичность и требуют экосистемного подхода», — отметил Яков Шапиро, руководитель направлений мультимедиа и UC «Инфосистемы Джет».

Разделение подходов: единая платформа или комбинация инструментов

Мнения ИТ-директоров по поводу стратегии развития корпоративных коммуникаций разделились почти поровну: 50% выступают за единую платформу, объединяющую звонки, мессенджеры и видеосвязь, 46% предпочитают использовать разные решения под конкретные задачи.

В инфраструктуре компаний наблюдается смешанная картина: российские ВКС-системы лидируют (55%), тогда как среди мессенджеров преобладают зарубежные решения (42%).

Что ждут от разработчиков

По словам аналитика Николая Смирнова, рынок сейчас находится в состоянии «ожидания»:

«Компаний, готовых на радикальные шаги, немного. Большинство заняли выжидательную позицию — следят за развитием отечественных решений, но не готовы становиться тестовой площадкой для сырых технологий. При этом все надеются на рывок российских разработчиков».

Эксперты прогнозируют, что следующим шагом станет активное внедрение ИИ-инструментов в корпоративные коммуникации — автоматическая расшифровка встреч, создание протоколов и появление виртуальных помощников. Такие функции могут стать конкурентным преимуществом российских платформ и ускорить переход бизнеса на локальные решения.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru