Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Проведенное в «Лаборатории Касперского» исследование показало, что поддельные сайты, созданные с помощью ИИ, могут содержать следы использования таких онлайн-сервисов, которые мошенники поленились или забыли вычистить.

Рост доступности больших языковых моделей (БЯМ, LLM) способствует, в числе прочего, увеличению количества злоупотреблений.

Использование инструментов на их основе позволяет поставить генерацию контента, в том числе вредоносного, на поток, однако ИИ-помощников нельзя оставлять без присмотра, о чем не знают или забывают обманщики.

В ходе анализа на фишинговых и скамерских сайтах эксперты обнаружили такие артефакты, как ответы чат-ботов, в которых сработала встроенная защита; лексикон, характерный для известных LLM; служебные пометки со ссылкой на ИИ-сервис.

Так, из-за больших масштабов автоматизации или кривых рук на созданных ИИ страницах зачастую можно встретить извинения чат-бота, которому этикет не позволяет выполнить запрос. Взамен он предлагает «сделать что-то похожее», и это тоже попадает в паблик.

 

В данном примере присутствуют и другие свидетельства фейка — диакритический знак в слове «Login» и буква «ɱ» вместо «m» в заголовке (замена по методу тайпсквоттинга).

Использование LLM, по словам экспертов, могут также выдать характерные слова и фразы. Чат-боты OpenAI, например, часто употребляют delve («штудировать»), а конструкции вроде in the ever-evolving / ever-changing world / landscape («в изменчивом /развивающемся мире / ландшафте») использует множество нейросетей.

Предательский отказ ассистента подчиниться и другие маркеры изредка встречаются также в мегатегах поддельных сайтов. В примере ниже исследователи обнаружили еще один признак мошенничества — имя «bolygon» в URL имитации легитимного Polygon.

 

«Злоумышленники активно изучают возможности применения больших языковых моделей в разных сценариях автоматизации, но, как видно, иногда допускают ошибки, которые их выдают, — отметил руководитель группы исследований и ML-разработок в Kaspersky Владислав Тушканов. — Однако подход, основанный на определении поддельной страницы по наличию тех или иных “говорящих слов”, ненадёжен. Поэтому пользователям нужно обращать внимание на подозрительные признаки, например логические ошибки и опечатки на странице. Важно убедиться, что адрес сайта совпадает с официальным».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В даркнете растет спрос на аренду аккаунтов MAX

В даркнете стремительно растёт интерес к аренде аккаунтов пользователей мессенджера MAX. По данным аналитиков, ежедневно фиксируется до тысячи подобных запросов, а стоимость аренды отдельных учётных записей достигает 250 долларов. Эксперты отмечают, что спрос на такие услуги демонстрирует устойчивый рост.

О новой тенденции сообщил «Коммерсантъ» со ссылкой на два источника: специалистов компании «Инфосистемы Джет» и Управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД России (УБК МВД).

Потенциальные арендаторы предлагают владельцам аккаунтов передать номер телефона и код для авторизации в мессенджере, а взамен оплачивают почасовой «холд» — удержание учётной записи.

Минимальный срок аренды составляет один час. Стоимость варьируется от 10 до 250 долларов в зависимости от продолжительности и условий. В УБК МВД подчеркнули, что схема во многом копирует практику аренды аккаунтов WhatsApp (принадлежит Meta, признанной экстремистской и запрещённой в РФ). Основными арендодателями выступают школьники и студенты.

По данным источников «Коммерсанта», вся информация о таких случаях оперативно передаётся администрации MAX. В августе мессенджер сообщил о блокировке 67 тыс. нарушителей, тогда как месяцем ранее число блокировок составило около 10 тыс.

С 1 сентября вступил в силу запрет на передачу учётных записей и SIM-карт посторонним лицам (за исключением близких родственников). Нарушителям грозит административная, а в ряде случаев и уголовная ответственность, если аккаунты используются для противоправной деятельности.

Директор центра противодействия мошенничеству компании «Информзащита» Павел Коваленко спрогнозировал для «Коммерсанта», что при базовом сценарии доля мошеннических звонков через MAX будет увеличиваться на 0,3–0,5% ежемесячно. Сейчас она составляет около 9%.

При агрессивном сценарии к концу 2025 года доля звонков через MAX может достичь 20–22%. В этом случае количество блокировок в системе вырастет до 250–300 тыс. ежемесячно.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru