Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Проведенное в «Лаборатории Касперского» исследование показало, что поддельные сайты, созданные с помощью ИИ, могут содержать следы использования таких онлайн-сервисов, которые мошенники поленились или забыли вычистить.

Рост доступности больших языковых моделей (БЯМ, LLM) способствует, в числе прочего, увеличению количества злоупотреблений.

Использование инструментов на их основе позволяет поставить генерацию контента, в том числе вредоносного, на поток, однако ИИ-помощников нельзя оставлять без присмотра, о чем не знают или забывают обманщики.

В ходе анализа на фишинговых и скамерских сайтах эксперты обнаружили такие артефакты, как ответы чат-ботов, в которых сработала встроенная защита; лексикон, характерный для известных LLM; служебные пометки со ссылкой на ИИ-сервис.

Так, из-за больших масштабов автоматизации или кривых рук на созданных ИИ страницах зачастую можно встретить извинения чат-бота, которому этикет не позволяет выполнить запрос. Взамен он предлагает «сделать что-то похожее», и это тоже попадает в паблик.

 

В данном примере присутствуют и другие свидетельства фейка — диакритический знак в слове «Login» и буква «ɱ» вместо «m» в заголовке (замена по методу тайпсквоттинга).

Использование LLM, по словам экспертов, могут также выдать характерные слова и фразы. Чат-боты OpenAI, например, часто употребляют delve («штудировать»), а конструкции вроде in the ever-evolving / ever-changing world / landscape («в изменчивом /развивающемся мире / ландшафте») использует множество нейросетей.

Предательский отказ ассистента подчиниться и другие маркеры изредка встречаются также в мегатегах поддельных сайтов. В примере ниже исследователи обнаружили еще один признак мошенничества — имя «bolygon» в URL имитации легитимного Polygon.

 

«Злоумышленники активно изучают возможности применения больших языковых моделей в разных сценариях автоматизации, но, как видно, иногда допускают ошибки, которые их выдают, — отметил руководитель группы исследований и ML-разработок в Kaspersky Владислав Тушканов. — Однако подход, основанный на определении поддельной страницы по наличию тех или иных “говорящих слов”, ненадёжен. Поэтому пользователям нужно обращать внимание на подозрительные признаки, например логические ошибки и опечатки на странице. Важно убедиться, что адрес сайта совпадает с официальным».

РКН наказал 85 операторов за непредоставление данных об IP пользователей

Роскомнадзор оштрафовал 85 операторов связи за непредоставление данных об IP-адресах абонентов. В самом ведомстве отмечают, что такие сведения необходимы для защиты от DDoS-атак, мошенничества и нарушений законодательства о персональных данных.

Об этом сообщают «Известия» со ссылкой на статистику Роскомнадзора по состоянию на 21 мая 2026 года. По данным регулятора, в марте текущего года запросы на предоставление таких сведений были направлены 1359 операторам связи.

Приказ Роскомнадзора, который обязывает операторов передавать данные для идентификации клиентских устройств абонентов, появился в декабре 2024 года. Соответствующие нормы уже содержались в законе «О связи», однако фактически до выхода приказа они не применялись.

«Информирование операторов проводится в рамках реализации полномочий Роскомнадзора по контролю за соблюдением требования закона «О связи», обязывающего операторов представлять сведения об IP-адресах для противодействия угрозам безопасности российского сегмента интернета, противодействия компьютерным атакам, в том числе DDoS-атакам», — говорится в ответе Роскомнадзора на запрос «Известий».

Генеральный директор TelecomDaily Денис Кусков считает сбор таких данных полезным, поскольку он помогает выявлять источники злонамеренного трафика. За ними могут скрываться организаторы DDoS-атак или массовых спам-рассылок.

В то же время один из источников издания в крупном операторе связи отметил, что сбор данных об абонентах также позволяет регулятору эффективнее отслеживать и блокировать использование VPN и других средств обхода блокировок. Некоторые эксперты ещё при появлении приказа Роскомнадзора называли именно эту цель одной из ключевых.

Как отметил руководитель направления «Разрешение IT&IP споров» компании «Рустам Курмаев и партнёры» Ярослав Шицле, невыполнение требований приказа является административным правонарушением. За первое нарушение оператору может грозить штраф до 500 тыс. рублей, за повторное — до 1 млн рублей. Кроме того, компанию могут привлечь к ответственности за несоблюдение условий лицензии, что предусматривает штраф до 40 тыс. рублей.

С другой стороны, партнёр ComNews Research Леонид Коник отметил, что для предоставления Роскомнадзору данных об абонентах операторам потребуется дорогостоящее оборудование. По его мнению, дополнительные расходы могут отразиться на тарифах.

«При десятках миллионов пользователей и регулярном динамическом изменении их внешних сетевых адресов (даже после отключения Wi-Fi роутера на ночь) операторам придется выделить немалый штат сотрудников, которые будут бесконечно рапортовать в Роскомнадзор об изменении IP-адресов. У многих сейчас, вероятно, отсутствуют информационные системы, способные отслеживать такие изменения в режиме реального времени. Это означает необходимость дополнительных инвестиций в разработку и внедрение подобных решений», — считает Леонид Коник.

RSS: Новости на портале Anti-Malware.ru