Австралийские ученые натравили ИИ-бот на телефонных мошенников

Австралийские ученые натравили ИИ-бот на телефонных мошенников

Австралийские ученые натравили ИИ-бот на телефонных мошенников

Голосовой чат-бот Apate, созданный в Университете Маккуори (Сидней), обучен отвечать на звонки мошенников и удерживать их на линии, заставляя попусту тратить время. Начинающий пранкер использует ИИ-технологии и уже проявил себя как находчивый собеседник.

Идея запустить такой проект возникла у его нынешнего руководителя, когда тот за обедом минут сорок развлекался и смешил детей, ответив на мошеннический звонок. Профессор решил, что процесс можно автоматизировать с помощью современных технологий, таких как обработка естественного языка и клонирование голоса средствами ИИ.

Свою языковую модель исследователи обучали на разноязычных диалогах с мошенниками, взятых из реальной жизни: расшифровках телефонных разговоров, переписках по имейл и в социальных сетях. Тестирование проводилось на настоящих звонках мошенников; чтобы их спровоцировать, были куплены несколько телефонных номеров, которые затем щедро публиковались в Сети.

Конечная цель проекта — пустыми разговорами удержать собеседника на линии в течение 40 минут; этого времени, по мнению участников проекта, достаточно, чтобы сделать скам-звонки нерентабельными. В настоящее время чат-бот Apate способен вести лишь пятиминутные диалоги, однако при этом он не теряется, когда задают вопросы, на которые его не натаскивали.

Университетские исследователи считают, что их детище способно дать достойный отпор мошенникам, которые тоже начали применять ИИ-технологии, создавая убедительные аудиоклоны и дипфейки. Ученые подали заявку на патент и ведут коммерческие переговоры с телеком-провайдерами.

 

По данным Банка России, в 2022 году кибермошенники украли у граждан более 14 млрд рублей. В минувшем квартале ущерб от их действий составил 4,5 млрд рублей, при этом доля россиян, столкнувшихся с подозрительными звонками, согласно Kaspersky, увеличилась до 29%. В настоящее время россияне получают до 8,6 млн мошеннических звонков в сутки.

Для борьбы с телефонным мошенничеством в конце прошлого года в России была запущена единая платформа верификации «Антифрод»; за неполных четыре месяца с ее помощью было пресечено свыше 135 млн попыток развода.

Троян Android.MagicAd пролез в официальные магазины Xiaomi и Samsung

Пользователям Android снова напомнили, что даже официальный магазин приложений не всегда гарантирует безопасность. Специалисты «Доктор Веб» обнаружили семейство троянов Android.MagicAd, которое научилось показывать рекламу поверх других приложений, обходя встроенные защитные механизмы операционной системы.

Особенность Android.MagicAd в том, что он действует максимально скрытно. Вредоносный код хранится внутри зашифрованных нативных библиотек и расшифровывается только во время работы приложения.

Перед активацией троян проверяет окружение: ищет признаки виртуальных машин, анализирует способ установки приложения и даже проверяет IP-адрес устройства. Если всё выглядит безопасно для злоумышленников, вредонос приступает к работе.

После запуска Android.MagicAd скрывает свою иконку, создаёт фоновые службы и начинает демонстрировать рекламные баннеры. Причём делает это без разрешения SYSTEM_ALERT_WINDOW, которое обычно требуется для вывода окон поверх других приложений.

 

Вместо этого троян использует целый набор нестандартных приёмов. Например, на устройствах Xiaomi он взаимодействует с браузером Mi Browser и компонентами MIUI, на смартфонах Vivo использует системные сервисы через механизм Binder, а на устройствах Amazon эксплуатирует домашний экран Fire TV.

Есть и универсальный метод. Вредонос запускает медиаплеер с практически нулевой громкостью, имитирует нажатие мультимедийных кнопок и использует системные механизмы управления воспроизведением как точку входа для показа рекламы. Со стороны всё выглядит как обычная работа мультимедийных функций Android.

По данным Doctor Web, заражённые приложения распространялись через официальный магазин Xiaomi GetApps, а также были замечены в Samsung Galaxy Store. Всего исследователи насчитали более 50 вредоносных приложений.

Авторы кампании старались не привлекать лишнего внимания. Приложения появлялись в магазинах на ограниченное время, затем удалялись и заменялись новыми программами от тех же разработчиков. Такой подход позволял поддерживать заражения и одновременно снижать риск обнаружения.

На данный момент вредоносные приложения уже удалены из каталогов, а связанные с ними учётные записи разработчиков перестали публиковать новые программы. Однако установленные ранее копии продолжают работать на устройствах пользователей.

RSS: Новости на портале Anti-Malware.ru