Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Мошенников, освоивших ИИ, выдают артефакты на фейковых сайтах

Проведенное в «Лаборатории Касперского» исследование показало, что поддельные сайты, созданные с помощью ИИ, могут содержать следы использования таких онлайн-сервисов, которые мошенники поленились или забыли вычистить.

Рост доступности больших языковых моделей (БЯМ, LLM) способствует, в числе прочего, увеличению количества злоупотреблений.

Использование инструментов на их основе позволяет поставить генерацию контента, в том числе вредоносного, на поток, однако ИИ-помощников нельзя оставлять без присмотра, о чем не знают или забывают обманщики.

В ходе анализа на фишинговых и скамерских сайтах эксперты обнаружили такие артефакты, как ответы чат-ботов, в которых сработала встроенная защита; лексикон, характерный для известных LLM; служебные пометки со ссылкой на ИИ-сервис.

Так, из-за больших масштабов автоматизации или кривых рук на созданных ИИ страницах зачастую можно встретить извинения чат-бота, которому этикет не позволяет выполнить запрос. Взамен он предлагает «сделать что-то похожее», и это тоже попадает в паблик.

 

В данном примере присутствуют и другие свидетельства фейка — диакритический знак в слове «Login» и буква «ɱ» вместо «m» в заголовке (замена по методу тайпсквоттинга).

Использование LLM, по словам экспертов, могут также выдать характерные слова и фразы. Чат-боты OpenAI, например, часто употребляют delve («штудировать»), а конструкции вроде in the ever-evolving / ever-changing world / landscape («в изменчивом /развивающемся мире / ландшафте») использует множество нейросетей.

Предательский отказ ассистента подчиниться и другие маркеры изредка встречаются также в мегатегах поддельных сайтов. В примере ниже исследователи обнаружили еще один признак мошенничества — имя «bolygon» в URL имитации легитимного Polygon.

 

«Злоумышленники активно изучают возможности применения больших языковых моделей в разных сценариях автоматизации, но, как видно, иногда допускают ошибки, которые их выдают, — отметил руководитель группы исследований и ML-разработок в Kaspersky Владислав Тушканов. — Однако подход, основанный на определении поддельной страницы по наличию тех или иных “говорящих слов”, ненадёжен. Поэтому пользователям нужно обращать внимание на подозрительные признаки, например логические ошибки и опечатки на странице. Важно убедиться, что адрес сайта совпадает с официальным».

Треть российских врачей дают пациентам личные контакты

Как показал опрос сервиса «Актион медицина», треть российских врачей готовы делиться с пациентами личными контактами, и ровно столько же — категорически против. Руководители клиник относятся к такой практике с осторожностью, при этом прямого запрета со стороны Минздрава нет.

Выдержки из исследования «Актион медицина», посвящённого взаимодействию врачей с пациентами и коллегами в нерабочее время, опубликовал «Коммерсантъ». В опросе приняли участие более 1200 врачей.

Согласно результатам исследования, 32,7% врачей предоставляют пациентам личный номер телефона или контакт в мессенджере. Ещё 6,5% делают это время от времени. При этом 38,5% медиков не готовы делиться личными контактами, а 14,25% используют для общения с пациентами отдельный номер. Почти половина врачей вовсе не общается с пациентами через социальные сети и мессенджеры.

Ведущий эксперт «Актион медицина» Наталья Журавлева в комментарии для «Коммерсанта» назвала одной из ключевых проблем такого формата общения вопрос сохранности данных. Она также обратила внимание на двойственные ожидания пациентов: с одной стороны, они опасаются утечек персональной информации, а с другой — без раздумий пересылают по незащищённым каналам медицинские выписки, результаты анализов и консультаций.

По словам эксперта, законность подобного взаимодействия как минимум вызывает вопросы. «Любое дистанционное общение с пациентами по поводу их заболеваний и коррекции лечения с точки зрения закона приравнивается к телемедицинской консультации. А проводить её врач “не на работе” не имеет права, как и ставить диагноз», — пояснила она.

Владельцы и руководители клиник, в свою очередь, предпочитают действовать осторожно. Совладелец сети «Клиники доктора Омарова» Зарема Омарова отмечает, что, несмотря на отсутствие прямого запрета на общение врачей с пациентами по телефону или в мессенджерах, сохраняется риск компрометации данных и неверного понимания пациентом рекомендаций специалиста.

Руководитель сети Grand Clinic Ольга Шуппо рассказала, что в клинике действует запрет на консультации по телефону и в мессенджерах. Однако предусмотрены исключения — например, при прохождении пациентом сложного лечения, необходимости особой маршрутизации внутри клиники или накануне длительных выходных и праздничных дней.

Главный врач клиники Estetus Севак Барсегян также указал на необходимость защищать медицинских работников от стресса и профессионального выгорания, риски которых существенно возрастают при общении с пациентами в нерабочее время.

Управляющий партнёр клиники ранней реабилитации «Три сестры» Анна Симакова считает, что оптимальным решением является создание удобной и защищённой среды для общения врачей и пациентов. В клинике для этого используются специальные служебные номера, а персонал проходит обучение по выстраиванию корректной коммуникации с пациентами.

Начальник управления стратегического развития здравоохранения ЦНИИОИЗ Минздрава России Денис Тюфилин в комментарии для «Коммерсанта» отметил, что врачи не обязаны общаться с пациентами во внерабочее время даже по срочным вопросам — это остаётся личным выбором специалиста. При этом ключевым фактором он назвал обеспечение сохранности персональных данных.

Юрист по медицинскому праву, основатель консалтинговой группы vvCube Вадим Ткаченко подчеркнул, что использование личных устройств повышает риски утечек медицинских данных. Впрочем, по его словам, такие риски сохраняются даже при работе на служебных устройствах в рабочее время.

RSS: Новости на портале Anti-Malware.ru