В России создали Android-приложение, распознающее телефонного мошенника

В России создали Android-приложение, распознающее телефонного мошенника

В России создали Android-приложение, распознающее телефонного мошенника

Новое приложение, способное отличить телефонного мошенника в самом начале разговора и предупредить о потенциально опасном звонке пользователя, — разработка российских программистов. Основной целевой аудиторией этой системы являются клиенты кредитных организаций и пользователи банковских продуктов.

Всего девелоперы представили три компонента. Помимо вышеописанного противодействия телефонным мошенникам, разработчики предлагают аналогичный сервис для контроля переписки гражданина с мошенником в социальных сетях, а также функцию распознавания фишинговых сайтов.

Нынешние условия, в которых приходится мириться с растущей долей мошенничества среди всех киберпреступлений, давно требуют какого-нибудь радикального решения. Например, по словам зампреда правления Сбербанка Станислава Кузнецова, в 2020 доля телефонного мошенничества от всех киберпреступлений составила 97%.

На сегодняшний день наши разработчики предлагают Android-приложение, которое после установки на устройстве будет перехватывать все звонки. Записанный софтом разговор отправляется на сервер, а там уже аудио преобразуется в текст.

Далее в ход вступает искусственный интеллект, анализирующий полученный текст и тему разговора. Если в диалоге присутствуют семейные дела или, например, погода, алгоритмы прекращают анализ записи.

Если же собеседник упоминает банки, счета, финансовые институты, начинается более глубокий анализ. На этом этапе ИИ пробует найти признаки, характерные для общения с мошенником.

«Чтобы научить нейронную сеть отличать диалог со злоумышленником, мы взяли два типа разговоров — безобидные и мошеннические. Для добавления в базу последних мы находим злоумышленников в Сети и записываем общение с ними», — объяснил «Известиям» один из разработчиков системы.

Специалисты даже специально отбирают разные виды мошенничества и схемы беседы. Именно так нейронную сеть учат обращать внимание на определённые слова.

Эксперт GIS, заместитель генерального директора — технический директор компании «Газинформсервис» Николай Нашивочников прокомментировал новую российскую разработку для борьбы с киберпреступниками:

«Успешная реализация такой разработки потребует больших денег и по-хорошему более глубокой проработки сценариев использования и архитектуры.

В целом методы машинного обучения применяются для указанных задач почти 10 лет. Особых прорывов пока не было, хотя это, безусловно, перспективные технологии. Отмечу отличие от user behavior (поведенческой аналитики). Коллеги используют машинное обучение с учителем, т.е. "тренируют" машину на обучающих выборках эффективно относить текущий набор текстовых данных к одному из двух классов: нормальный или зловредный. В user behavior основная фича — в построении нормального (базового) профиля поведения сущности и оценки отклонения от него. Существенное отклонение от профиля помечается как потенциальная атака. При этом используют в основном машинное обучение без учителя».

Американские разработчики ИИ-моделей выявляют и банят россиян

Разработчики моделей искусственного интеллекта (ИИ) Claude, ChatGPT и Gemini активно выявляют пользователей из неподдерживаемых регионов, включая Россию, и блокируют им доступ. При этом чем крупнее проект, тем выше риск столкнуться с ограничениями.

Недавно стало известно о масштабной блокировке российских пользователей компанией Anthropic, которой принадлежит ИИ-модель Claude. По данным СМИ, она затронула сотни людей и компаний. При этом удалялись все данные и аналитика, хотя деньги за подписки возвращались.

Как отметил директор по экспериментальным продуктам MWS AI, входящей в МТС Web Services, Сергей Пономаренко в беседе с РИА Новости, зарубежные разработчики продолжат применять такую практику в отношении россиян. По его оценке, под наиболее серьёзной угрозой находятся крупные проекты, по которым есть признаки корпоративного использования. Это связано с соблюдением санкционных ограничений, введённых властями США ещё в 2024 году.

«Американские компании-разработчики ИИ Anthropic, OpenAI и Google активно применяют инструменты выявления пользователей из неподдерживаемого региона и будут дальше совершенствовать их, поэтому россиян ждут новые волны блокировок в Claude, ChatGPT и Gemini», — предупредил Сергей Пономаренко.

По его словам, ограничения вводятся постепенно. Российские IP-адреса долгое время могли помечаться в базах, которыми пользуются зарубежные компании, как европейские, однако со временем такие данные уточняются. В результате сетевые адреса начинают определяться как российские, после чего к ним применяются ограничения.

Использование прокси и VPN зарубежные компании также могут отслеживать. «Подозрение могут вызвать постоянные входы из разных стран за короткое время, использование известных VPN или прокси, слишком большое количество запросов, массовое создание аккаунтов, а также попытки обойти блокировки или фильтры безопасности», — пояснил эксперт.

Часто сомнительные учётные записи сначала отправляют на проверку и не блокируют полностью. Доступ к ним могут восстановить после обращения в техническую поддержку. Однако при удалении аккаунта уничтожаются все данные. При этом сами диалоги владельцы ИИ-моделей могут сохранять, что создаёт дополнительные риски утечки информации.

RSS: Новости на портале Anti-Malware.ru