Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Проведенное в «Лаборатории Касперского» исследование показало, что поддельные сайты, созданные с помощью ИИ, могут содержать следы использования таких онлайн-сервисов, которые мошенники поленились или забыли вычистить.

Рост доступности больших языковых моделей (БЯМ, LLM) способствует, в числе прочего, увеличению количества злоупотреблений.

Использование инструментов на их основе позволяет поставить генерацию контента, в том числе вредоносного, на поток, однако ИИ-помощников нельзя оставлять без присмотра, о чем не знают или забывают обманщики.

В ходе анализа на фишинговых и скамерских сайтах эксперты обнаружили такие артефакты, как ответы чат-ботов, в которых сработала встроенная защита; лексикон, характерный для известных LLM; служебные пометки со ссылкой на ИИ-сервис.

Так, из-за больших масштабов автоматизации или кривых рук на созданных ИИ страницах зачастую можно встретить извинения чат-бота, которому этикет не позволяет выполнить запрос. Взамен он предлагает «сделать что-то похожее», и это тоже попадает в паблик.

 

В данном примере присутствуют и другие свидетельства фейка — диакритический знак в слове «Login» и буква «ɱ» вместо «m» в заголовке (замена по методу тайпсквоттинга).

Использование LLM, по словам экспертов, могут также выдать характерные слова и фразы. Чат-боты OpenAI, например, часто употребляют delve («штудировать»), а конструкции вроде in the ever-evolving / ever-changing world / landscape («в изменчивом /развивающемся мире / ландшафте») использует множество нейросетей.

Предательский отказ ассистента подчиниться и другие маркеры изредка встречаются также в мегатегах поддельных сайтов. В примере ниже исследователи обнаружили еще один признак мошенничества — имя «bolygon» в URL имитации легитимного Polygon.

 

«Злоумышленники активно изучают возможности применения больших языковых моделей в разных сценариях автоматизации, но, как видно, иногда допускают ошибки, которые их выдают, — отметил руководитель группы исследований и ML-разработок в Kaspersky Владислав Тушканов. — Однако подход, основанный на определении поддельной страницы по наличию тех или иных “говорящих слов”, ненадёжен. Поэтому пользователям нужно обращать внимание на подозрительные признаки, например логические ошибки и опечатки на странице. Важно убедиться, что адрес сайта совпадает с официальным».

«ИКС Холдинг» ведёт переговоры о покупке Crosstech Solutions

«ИКС Холдинг» может пополнить свой портфель ещё одним игроком на рынке информационной безопасности. Холдинг ведёт переговоры о покупке 100% Crosstech Solutions Group — разработчика решений для защиты данных и противодействия внутренним угрозам.

Об этом РБК сообщили источники на ИТ-рынке. По их словам, после закрытия сделки актив планируется передать в управление компании «Гарда», которая уже входит в периметр холдинга и развивает направление ИБ.

Факт переговоров подтвердил и представитель «ИКС Холдинга», уточнив, что сейчас стороны находятся на финальной стадии согласования условий. По его словам, потенциальная сделка направлена на усиление блока «ИКС Безопасность». Рыночную стоимость Crosstech Solutions Group участники рынка оценивают в 4–5 млрд рублей.

Crosstech Solutions Group работает с 2009 года (до 2019-го компания называлась «Комплексная защита информации») и специализируется на мониторинге, контроле и защите от внутренних угроз. Среди её клиентов — банки, промышленные компании, ретейл и государственные структуры.

Финансовые показатели компании заметно выросли: по итогам 2024 года выручка составила 1,8 млрд рублей — более чем в три раза больше, чем годом ранее.

Структура владения Crosstech Solutions за последние годы несколько раз менялась. До конца 2022 года компания входила в ИТ-группу «Кросс технолоджис», затем 51% принадлежал Евгению Чугунову, а 49% — «ГПБ — Техинформзащита», связанной с Газпромбанком. В конце прошлого года владельцем стала компания «РГ Холдинг», подконтрольная Ирине Шехтман. Представители Чугунова и Шехтман от комментариев отказались.

Эксперты считают, что в случае закрытия сделки «Гарда» получит прямое усиление продуктовой линейки в сегменте безопасности данных и маскирования информации. По словам гендиректора RED Security Александра Осипова, портфель Crosstech может хорошо дополнить предложение «Гарды» для заказчиков, использующих подход data centric security — когда в центре внимания находится защита самих данных, а не только инфраструктуры.

В то же время на рынке звучат и более сдержанные оценки. Независимый эксперт по ИБ Алексей Лукацкий отмечает, что продукты Crosstech Solutions не слишком широко известны и для их масштабирования могут потребоваться дополнительные инвестиции. Тем не менее он подчёркивает, что сама сделка логично вписывается в общую картину консолидации рынка.

Этот тренд подтверждают и другие участники отрасли. Российский рынок информационной безопасности активно растёт: по оценке Центра стратегических разработок, в 2025 году его объём достиг 369 млрд рублей, а к 2028 году может превысить 700 млрд. На фоне такого роста крупные ИТ-группы всё чаще скупают нишевых разработчиков, формируя комплексные портфели решений для крупных заказчиков.

Если переговоры завершатся успешно, покупка Crosstech Solutions станет для «ИКС Холдинга» ещё одним шагом в сторону создания универсального игрока на рынке кибербезопасности — с широким набором решений под разные сценарии и бюджеты.

RSS: Новости на портале Anti-Malware.ru