Австралийские ученые натравили ИИ-бот на телефонных мошенников

Австралийские ученые натравили ИИ-бот на телефонных мошенников

Австралийские ученые натравили ИИ-бот на телефонных мошенников

Голосовой чат-бот Apate, созданный в Университете Маккуори (Сидней), обучен отвечать на звонки мошенников и удерживать их на линии, заставляя попусту тратить время. Начинающий пранкер использует ИИ-технологии и уже проявил себя как находчивый собеседник.

Идея запустить такой проект возникла у его нынешнего руководителя, когда тот за обедом минут сорок развлекался и смешил детей, ответив на мошеннический звонок. Профессор решил, что процесс можно автоматизировать с помощью современных технологий, таких как обработка естественного языка и клонирование голоса средствами ИИ.

Свою языковую модель исследователи обучали на разноязычных диалогах с мошенниками, взятых из реальной жизни: расшифровках телефонных разговоров, переписках по имейл и в социальных сетях. Тестирование проводилось на настоящих звонках мошенников; чтобы их спровоцировать, были куплены несколько телефонных номеров, которые затем щедро публиковались в Сети.

Конечная цель проекта — пустыми разговорами удержать собеседника на линии в течение 40 минут; этого времени, по мнению участников проекта, достаточно, чтобы сделать скам-звонки нерентабельными. В настоящее время чат-бот Apate способен вести лишь пятиминутные диалоги, однако при этом он не теряется, когда задают вопросы, на которые его не натаскивали.

Университетские исследователи считают, что их детище способно дать достойный отпор мошенникам, которые тоже начали применять ИИ-технологии, создавая убедительные аудиоклоны и дипфейки. Ученые подали заявку на патент и ведут коммерческие переговоры с телеком-провайдерами.

 

По данным Банка России, в 2022 году кибермошенники украли у граждан более 14 млрд рублей. В минувшем квартале ущерб от их действий составил 4,5 млрд рублей, при этом доля россиян, столкнувшихся с подозрительными звонками, согласно Kaspersky, увеличилась до 29%. В настоящее время россияне получают до 8,6 млн мошеннических звонков в сутки.

Для борьбы с телефонным мошенничеством в конце прошлого года в России была запущена единая платформа верификации «Антифрод»; за неполных четыре месяца с ее помощью было пресечено свыше 135 млн попыток развода.

Шифрование WhatsApp мешает работе спецслужб, заявили в Великобритании

В Великобритании снова обострился спор вокруг шифрования — и на этот раз формулировки получились особенно жёсткими. В новом докладе независимого эксперта при правительстве прозвучала мысль, что разработка зашифрованных мессенджеров вроде WhatsApp (принадлежит признанной в России экстремистской организации и запрещённой корпорации Meta) или Signal теоретически может считаться «враждебной деятельностью».

Речь идёт о докладе (PDF) Джонатана Холла, независимого обозревателя законодательства о госугрозах и терроризме.

Он анализировал полномочия, заложенные в законы о нацбезопасности и борьбе с терроризмом, и пришёл к выводу: технологии, которые мешают спецслужбам отслеживать коммуникации, в определённых трактовках могут подпадать под крайне широкое определение «враждебных действий».

По логике Холла, даже если разработчики не связаны ни с каким иностранным государством, их продукты всё равно могут косвенно помогать недружественным странам, просто потому что усложняют слежку. Более того, в докладе прямо сказано: для такой трактовки необязательно, чтобы иностранное государство вообще осознавало эту «выгоду».

Такая постановка вопроса явно заставит нервничать техноиндустрию. Причём под удар, по словам Холла, потенциально попадают не только разработчики, но и журналисты, работающие с конфиденциальными или неудобными для властей материалами. Формулировки законов позволяют трактовать их действия очень широко.

Контекст тут тоже важен. Давление на зашифрованные сервисы в Великобритании растёт уже не первый год, особенно после принятия закона «Online Safety Act». Формально он про защиту пользователей и возрастную верификацию, но критики давно предупреждали: на практике он может привести к подрыву сквозного шифрования.

Недавний конфликт с Apple это наглядно показал. Получив требование предоставить доступ к зашифрованным данным iCloud, компания предпочла просто отключить Advanced Data Protection для пользователей в Великобритании, чем ослаблять защиту. Этот шаг встревожил и правозащитников, и другие ИТ-компании.

На парламентских обсуждениях власти всё чаще говорят о «жёстком контроле», обсуждают VPN и другие инструменты конфиденциальности, а аргументы о рисках вроде клиентского сканирования часто остаются без внимания. Для государства шифрование — это помеха, для журналистов, активистов и обычных пользователей — базовый механизм безопасности.

И хотя пока речь идёт лишь о юридических интерпретациях, сигнал понятен: противостояние между британскими властями и зашифрованными платформами никуда не делось — и, судя по всему, в ближайшее время станет ещё острее.

Напомним, на днях в Сеть выложили инструмент для отслеживания пользователей WhatsApp по номеру телефона. Кроме того, набирает обороты схема скрытого захвата аккаунтов WhatsApp — GhostPairing.

RSS: Новости на портале Anti-Malware.ru