Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Проведенное в «Лаборатории Касперского» исследование показало, что поддельные сайты, созданные с помощью ИИ, могут содержать следы использования таких онлайн-сервисов, которые мошенники поленились или забыли вычистить.

Рост доступности больших языковых моделей (БЯМ, LLM) способствует, в числе прочего, увеличению количества злоупотреблений.

Использование инструментов на их основе позволяет поставить генерацию контента, в том числе вредоносного, на поток, однако ИИ-помощников нельзя оставлять без присмотра, о чем не знают или забывают обманщики.

В ходе анализа на фишинговых и скамерских сайтах эксперты обнаружили такие артефакты, как ответы чат-ботов, в которых сработала встроенная защита; лексикон, характерный для известных LLM; служебные пометки со ссылкой на ИИ-сервис.

Так, из-за больших масштабов автоматизации или кривых рук на созданных ИИ страницах зачастую можно встретить извинения чат-бота, которому этикет не позволяет выполнить запрос. Взамен он предлагает «сделать что-то похожее», и это тоже попадает в паблик.

 

В данном примере присутствуют и другие свидетельства фейка — диакритический знак в слове «Login» и буква «ɱ» вместо «m» в заголовке (замена по методу тайпсквоттинга).

Использование LLM, по словам экспертов, могут также выдать характерные слова и фразы. Чат-боты OpenAI, например, часто употребляют delve («штудировать»), а конструкции вроде in the ever-evolving / ever-changing world / landscape («в изменчивом /развивающемся мире / ландшафте») использует множество нейросетей.

Предательский отказ ассистента подчиниться и другие маркеры изредка встречаются также в мегатегах поддельных сайтов. В примере ниже исследователи обнаружили еще один признак мошенничества — имя «bolygon» в URL имитации легитимного Polygon.

 

«Злоумышленники активно изучают возможности применения больших языковых моделей в разных сценариях автоматизации, но, как видно, иногда допускают ошибки, которые их выдают, — отметил руководитель группы исследований и ML-разработок в Kaspersky Владислав Тушканов. — Однако подход, основанный на определении поддельной страницы по наличию тех или иных “говорящих слов”, ненадёжен. Поэтому пользователям нужно обращать внимание на подозрительные признаки, например логические ошибки и опечатки на странице. Важно убедиться, что адрес сайта совпадает с официальным».

Каждая седьмая дорожная ловушка в России связана со сбоями в работе камер

Как показала статистика Общественной палаты, собранная за четыре года, 14% всех дорожных ловушек связаны с некорректной работой средств фотовидеофиксации. Всего же количество участков, где дорожная обстановка провоцирует водителей на вынужденные нарушения, достигло 1969.

Такую статистику приводит ТАСС со ссылкой на проект Общественной палаты «Дорожные ловушки». Всего за четыре года работы проекта была собрана информация о 1969 таких участках.

Более трети жалоб — почти 35% — приходится на Москву. В тройку лидеров также вошли Санкт-Петербург, где обнаружили 179 ловушек (9,1% обращений), и Московская область со 164 проблемными участками (8,3%).

«По состоянию на 21 марта текущего года в адрес проекта поступило 1969 сообщений. При этом больше всего — 576 дорожных ловушек — было обнаружено на начальном этапе реализации проекта в 2022 году. После значительного спада в 2023-м, когда была выявлена лишь 321 ловушка, их количество вновь начало расти и в 2025-м поднялось до 535. С начала 2026 года зафиксировано 59 ловушек», — приводит агентство сообщение пресс-службы Общественной палаты.

Сбои камер, связанные с неверным определением скорости автомобилей, заняли третье место среди проблем, с которыми сталкиваются водители на таких участках: на них приходится 14% случаев. Они лишь немного уступили неочевидной или плохо различимой разметке, доля которой составила 14,7%. Безоговорочным лидером остаются участки с проблемами остановки или парковки — на них приходится почти половина всех «дорожных ловушек».

«Иногда дорожная ловушка — это незначительная дорожная ситуация, какая-то мелочь, которую легко устранить, а проблем она создаёт много: где-то некорректный знак, где-то не хватает разметки или ещё что-то. Ценность проекта в том, что он помогает устранять такие, казалось бы, незначительные погрешности в организации дорожного движения, которые причиняют неудобства автомобилистам, приводя к штрафам, а то и к лишению прав», — прокомментировал итоги работы инициатор проекта, заместитель председателя комиссии Общественной палаты по безопасности и взаимодействию с ОНК Александр Холодов.

Также известны случаи, когда камеры «путали» людей. Одному из пострадавших от такой ошибки даже советовали не попадать в поле зрения камер городского видеонаблюдения до задержания настоящего правонарушителя, находившегося в розыске.

RSS: Новости на портале Anti-Malware.ru