Австралийские ученые натравили ИИ-бот на телефонных мошенников

Австралийские ученые натравили ИИ-бот на телефонных мошенников

Австралийские ученые натравили ИИ-бот на телефонных мошенников

Голосовой чат-бот Apate, созданный в Университете Маккуори (Сидней), обучен отвечать на звонки мошенников и удерживать их на линии, заставляя попусту тратить время. Начинающий пранкер использует ИИ-технологии и уже проявил себя как находчивый собеседник.

Идея запустить такой проект возникла у его нынешнего руководителя, когда тот за обедом минут сорок развлекался и смешил детей, ответив на мошеннический звонок. Профессор решил, что процесс можно автоматизировать с помощью современных технологий, таких как обработка естественного языка и клонирование голоса средствами ИИ.

Свою языковую модель исследователи обучали на разноязычных диалогах с мошенниками, взятых из реальной жизни: расшифровках телефонных разговоров, переписках по имейл и в социальных сетях. Тестирование проводилось на настоящих звонках мошенников; чтобы их спровоцировать, были куплены несколько телефонных номеров, которые затем щедро публиковались в Сети.

Конечная цель проекта — пустыми разговорами удержать собеседника на линии в течение 40 минут; этого времени, по мнению участников проекта, достаточно, чтобы сделать скам-звонки нерентабельными. В настоящее время чат-бот Apate способен вести лишь пятиминутные диалоги, однако при этом он не теряется, когда задают вопросы, на которые его не натаскивали.

Университетские исследователи считают, что их детище способно дать достойный отпор мошенникам, которые тоже начали применять ИИ-технологии, создавая убедительные аудиоклоны и дипфейки. Ученые подали заявку на патент и ведут коммерческие переговоры с телеком-провайдерами.

 

По данным Банка России, в 2022 году кибермошенники украли у граждан более 14 млрд рублей. В минувшем квартале ущерб от их действий составил 4,5 млрд рублей, при этом доля россиян, столкнувшихся с подозрительными звонками, согласно Kaspersky, увеличилась до 29%. В настоящее время россияне получают до 8,6 млн мошеннических звонков в сутки.

Для борьбы с телефонным мошенничеством в конце прошлого года в России была запущена единая платформа верификации «Антифрод»; за неполных четыре месяца с ее помощью было пресечено свыше 135 млн попыток развода.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Новая классификация атак мошенников поможет снизить их успех на 15–20%

Российские ученые по-новому систематизировали атаки, использующие элементы социальной инженерии, и надеются, что их разработка поможет бизнесу и госструктурам перейти от реактивного подхода к защите к проактивному.

Авторы проекта — сотрудники Президентской академии народного хозяйства и госслужбы (РАНХиГС) и Санкт-Петербургского Федерального исследовательского центра РАН (СПб ФИЦ РАН).

Как выяснили исследователи, действия мошенников, независимо от применяемой схемы, можно свести в единый процесс:

  • сбор информации для выработки сценария и определения масштабов атаки (массовая, персонализированная);
  • установка контакта с потенциальными жертвами (через телефонную связь, имейл, мессенджеры, соцсети, сайты знакомств);
  • манипуляции для получения искомого эффекта (мнимые перспективы финансовой выгоды, шантаж, намек на возможность романтических отношений);
  • реализация — жертва обмана раскрывает конфиденциальные данные, переходит по фишинговой ссылке, загружает зловреда и т. п.

Подобная унификация позволяет предприятиям на основе анализа цифровой активности сотрудников принять превентивные меры даже против новых мошеннических схем, с невиданными ранее приманками, уловками и легендами.

Используя наработки ученых, HR-отделы и службы ИБ смогут заранее выявлять потенциальных жертв мошенничества с доступом к корпоративным системам и соответствующим образом адаптировать средства защиты, образовательные программы и тренинги.

«Классификация позволяет предусмотреть траектории атак и внедрить точечные меры профилактики на каждом этапе, — комментирует Татьяна Тулупьева, соавтор исследования, советник проректора по науке Академии и ведущий научный сотрудник СПб ФИЦ РАН. — Важный превентивный момент — распространение информации о многочисленных видах атак для широкой аудитории, чтобы любой пользователь имел возможность распознать воздействие, которое на него пытаются оказать злоумышленники».

По оценкам исследователей, их разработка поможет снизить успешность атак злоумышленников, сделавших ставку на человеческий фактор, в среднем на 15–20%, а также сберечь для российской экономики миллиарды рублей.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru