Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Проведенное в «Лаборатории Касперского» исследование показало, что поддельные сайты, созданные с помощью ИИ, могут содержать следы использования таких онлайн-сервисов, которые мошенники поленились или забыли вычистить.

Рост доступности больших языковых моделей (БЯМ, LLM) способствует, в числе прочего, увеличению количества злоупотреблений.

Использование инструментов на их основе позволяет поставить генерацию контента, в том числе вредоносного, на поток, однако ИИ-помощников нельзя оставлять без присмотра, о чем не знают или забывают обманщики.

В ходе анализа на фишинговых и скамерских сайтах эксперты обнаружили такие артефакты, как ответы чат-ботов, в которых сработала встроенная защита; лексикон, характерный для известных LLM; служебные пометки со ссылкой на ИИ-сервис.

Так, из-за больших масштабов автоматизации или кривых рук на созданных ИИ страницах зачастую можно встретить извинения чат-бота, которому этикет не позволяет выполнить запрос. Взамен он предлагает «сделать что-то похожее», и это тоже попадает в паблик.

 

В данном примере присутствуют и другие свидетельства фейка — диакритический знак в слове «Login» и буква «ɱ» вместо «m» в заголовке (замена по методу тайпсквоттинга).

Использование LLM, по словам экспертов, могут также выдать характерные слова и фразы. Чат-боты OpenAI, например, часто употребляют delve («штудировать»), а конструкции вроде in the ever-evolving / ever-changing world / landscape («в изменчивом /развивающемся мире / ландшафте») использует множество нейросетей.

Предательский отказ ассистента подчиниться и другие маркеры изредка встречаются также в мегатегах поддельных сайтов. В примере ниже исследователи обнаружили еще один признак мошенничества — имя «bolygon» в URL имитации легитимного Polygon.

 

«Злоумышленники активно изучают возможности применения больших языковых моделей в разных сценариях автоматизации, но, как видно, иногда допускают ошибки, которые их выдают, — отметил руководитель группы исследований и ML-разработок в Kaspersky Владислав Тушканов. — Однако подход, основанный на определении поддельной страницы по наличию тех или иных “говорящих слов”, ненадёжен. Поэтому пользователям нужно обращать внимание на подозрительные признаки, например логические ошибки и опечатки на странице. Важно убедиться, что адрес сайта совпадает с официальным».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Россиян могут начать информировать о сливе их данных в даркнет

Выступая на проходящем в Москве SOC Forum 2025, президент «Ростелекома» Михаил Осеевский озвучил намерение компании предупреждать пользователей об утечке их личных данных в даркнет с тем, чтобы повысить осведомленность о киберрисках.

Как оказалось, подобная инициатива как нельзя кстати. Российские власти рассматривают возможность обязать операторов связи и провайдеров докладывать блюстителям правопорядка о попытках мошенничества с целью кражи персональных данных.

Проработка актуального вопроса в верхах должна завершиться в III квартале 2027 года.

«Человек может сделать запрос о том, что именно и в каком объёме о нем утекло, — цитирует РБК слова представителя «Ростелекома». — Это создаёт необходимую техническую и информационную базу, чтобы человек понимал, с какими угрозами он уже столкнулся».

Если примеру Ростелекома последуют хотя бы другие крупные поставщики ннтернет-услуг, их дружные усилия еще больше повысят осведомленность россиян об угрозе утечек ПДн и возможных последствиях — персонализированном фишинге, имперсонации с целью совершения мошеннических действий, сталкинге, шантаже и кибербуллинге.

По данным Infowatch, в 2024 году Россия заняла второе место (после США) в страновом рейтинге по количеству утечек, а по числу сливов ПДн поднялась на пятую позицию. За восемь месяцев 2025 года в Сеть утекло 13 млрд записей в данными россиян.

Специалисты ГК «Солар» ежедневно фиксируют от двух до пяти заявлений об утечках, хотя половина из них вызваны публикацией сводных баз по результатам сторонних либо более ранних взломов. Примечательно, что в этом году доля россиян, игнорирующих компрометацию своих данных, сократилась с 51 до 3%.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru