Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Проведенное в «Лаборатории Касперского» исследование показало, что поддельные сайты, созданные с помощью ИИ, могут содержать следы использования таких онлайн-сервисов, которые мошенники поленились или забыли вычистить.

Рост доступности больших языковых моделей (БЯМ, LLM) способствует, в числе прочего, увеличению количества злоупотреблений.

Использование инструментов на их основе позволяет поставить генерацию контента, в том числе вредоносного, на поток, однако ИИ-помощников нельзя оставлять без присмотра, о чем не знают или забывают обманщики.

В ходе анализа на фишинговых и скамерских сайтах эксперты обнаружили такие артефакты, как ответы чат-ботов, в которых сработала встроенная защита; лексикон, характерный для известных LLM; служебные пометки со ссылкой на ИИ-сервис.

Так, из-за больших масштабов автоматизации или кривых рук на созданных ИИ страницах зачастую можно встретить извинения чат-бота, которому этикет не позволяет выполнить запрос. Взамен он предлагает «сделать что-то похожее», и это тоже попадает в паблик.

 

В данном примере присутствуют и другие свидетельства фейка — диакритический знак в слове «Login» и буква «ɱ» вместо «m» в заголовке (замена по методу тайпсквоттинга).

Использование LLM, по словам экспертов, могут также выдать характерные слова и фразы. Чат-боты OpenAI, например, часто употребляют delve («штудировать»), а конструкции вроде in the ever-evolving / ever-changing world / landscape («в изменчивом /развивающемся мире / ландшафте») использует множество нейросетей.

Предательский отказ ассистента подчиниться и другие маркеры изредка встречаются также в мегатегах поддельных сайтов. В примере ниже исследователи обнаружили еще один признак мошенничества — имя «bolygon» в URL имитации легитимного Polygon.

 

«Злоумышленники активно изучают возможности применения больших языковых моделей в разных сценариях автоматизации, но, как видно, иногда допускают ошибки, которые их выдают, — отметил руководитель группы исследований и ML-разработок в Kaspersky Владислав Тушканов. — Однако подход, основанный на определении поддельной страницы по наличию тех или иных “говорящих слов”, ненадёжен. Поэтому пользователям нужно обращать внимание на подозрительные признаки, например логические ошибки и опечатки на странице. Важно убедиться, что адрес сайта совпадает с официальным».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

ИТ-ассоциации предупредили о возможных последствиях отмены льгот

На пресс-конференции «Оценка воздействия изменений налогового регулирования ИТ-сферы на развитие индустрии программного обеспечения» представители пяти отраслевых ассоциаций выразили резкое несогласие с инициативами правительства об отмене налоговых льгот по НДС, повышении страховых выплат и снижении порога доходов для уплаты НДС.

Как отметила председатель правления Ассоциации разработчиков программных продуктов (АРПП) «Отечественный софт» Наталья Касперская, отмена льгот по НДС увеличит налоговую нагрузку на ИТ-компании в среднем в 5–7 раз.

Это, по её словам, приведёт к тому, что финансировать новые разработки из собственных средств и расширять бизнес станет практически невозможно. В условиях, когда программы импортозамещения выполнены лишь наполовину, подобные меры могут привести к их фактическому сворачиванию.

Касперская также подчеркнула, что экономия на цифровизации неминуемо повышает риски технических сбоев. В подтверждение она привела пример аварии в одном из ЦОД Южной Кореи, где из-за нехватки средств на резервирование безвозвратно были утрачены важные данные. Своё отношение к инициативам Наталья Касперская охарактеризовала жёстко, назвав их «глупостью или... не буду говорить».

По её мнению, ответом разработчиков на отмену льгот может стать массовый переход в зарубежные юрисдикции. Причём, как отметила Касперская, «для этого даже не нужно вставать со стула» — вопросы оплаты, при желании, можно решить с помощью криптовалютных инструментов.

Исполнительный директор Ассоциации предприятий компьютерных и информационных технологий (АПКИТ) Николай Комлев напомнил, что ИТ-отрасль является одним из ключевых драйверов развития экономики. Внедрение технологий, по его словам, напрямую влияет на рост производительности труда, что неоднократно подчёркивалось на государственном уровне.

Комлев заявил, что налоговые изменения приведут к отрицательному эффекту, который окажется сильнее санкций и отключения от международных платежных систем. Особенно в условиях высокой ключевой ставки, из-за которой сегодня выгоднее положить деньги в банк, чем инвестировать в бизнес. По оценкам АПКИТ, отказ от освобождения от уплаты НДС приведёт к росту цен на ИТ-продукты в среднем на 30–35%. Это, в свою очередь, снизит темпы цифровизации и может спровоцировать рост использования пиратского софта, прежде всего зарубежного.

Кроме того, Комлев обратил внимание, что многие контракты на поставку программного обеспечения являются долгосрочными. Повышение цен для госзаказчиков может вызвать вопросы со стороны Счётной палаты и Федеральной антимонопольной службы. В связи с этим он предложил создать рабочую группу с участием представителей отрасли, правительства и парламента для выработки решений, которые позволят увеличить бюджетные поступления без разрушительных последствий для ИТ-компаний.

Заместитель руководителя ИТ-комитета «ОПОРЫ России» Антон Огарков отметил, что особенно уязвимыми окажутся небольшие компании, у которых недостаточная рентабельность, чтобы выдержать столь резкое повышение налоговой нагрузки. Многие из них, по его словам, будут вынуждены закрыться или сократить персонал.

Председатель правления Ассоциации МИТ «Мы ИТ» Алексей Щеглов напомнил, что к сегменту малого и среднего бизнеса относится около 80% российских ИТ-компаний, половина из которых имеет оборот менее 60 млн рублей. Именно они пострадают сильнее всего из-за снижения порога доходов для уплаты НДС до 10 млн рублей. В итоге, подчеркнул Щеглов, стартап-сегмент может быть фактически уничтожен или вынужден сменить юрисдикцию — например, на Казахстан или Узбекистан, где аналогичные льготы сохраняются.

Генеральный директор ФРИИ Кирилл Варламов напомнил, что дополнительные поступления в бюджет от отмены льгот оцениваются примерно в 30 млрд рублей в год. Однако, по его словам, прямые потери от сокращения занятости и заработных плат составят не менее 40 млрд рублей. Наиболее опасной инициативой Варламов назвал снижение порога доходов для уплаты НДС, которое, по его словам, «уничтожит стартапы на корню».

Президент НП «Руссофт» Валентин Макаров заявил, что мотивы инициаторов этих мер остаются непонятными. Даже поверхностный анализ, по его мнению, показывает, что результат окажется противоположным ожидаемому. Сворачивание программ цифровизации приведёт к снижению конкурентоспособности не только ИТ-отрасли, но и всей экономики страны.

Комментируя повышение страховых взносов, Макаров сослался на расчёты аналитиков «Руссофт», согласно которым положительный эффект от этого продлится лишь первый год, после чего бюджетные поступления начнут снижаться.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru