Кибермошенники используют ИИ для генерирования голосовых в WhatsApp

Кибермошенники используют ИИ для генерирования голосовых в WhatsApp

Кибермошенники используют ИИ для генерирования голосовых в WhatsApp

Искусственный интеллект помогает кибермошенникам генерировать голосовые сообщения и с их помощью разводить пользователей WhatsApp. Получая «войсы» от якобы знакомых людей, люди теряют бдительность.

О новой схеме злоумышленников рассказал Петр Куценко, специалист компании R-Vision. Чтобы сгенерировать правоподобный войс, мошеннику достаточно лишь небольшой записи голоса пользователя.

Как только всё будет готово, преступник отправляет голосовое сообщение и просит у жертвы деньги в долг.  По словам Куценко, мошенники также не отказались от схем с опросами и онлайн-голосованиями.

Цель в этом случае не изменилась: пользователя просят проголосовать за ребёнка в каком-либо конкурсе, после чего доверчивая жертва может попросить распространить ссылку своих друзей и знакомых.

Специалист R-Vision напомнил, что перед праздниками риски возрастают, поэтому гражданам стоит быть особенно бдительными. Нужно очень внимательно и крайне скептически относиться к розыгрышам билетов на новогодние концерты и другие мероприятия, приуроченные к праздникам.

Куценко призывает ни в коем случае не переводить деньги по запросам в WhatsApp и не переходить по сомнительным ссылкам.

В России разработали бесплатный детектор для поиска дипфейков

Компания «Архитех ИИ» разработала инструмент KodikScan для проверки цифрового контента на признаки генерации или обработки с помощью искусственного интеллекта. Сервис будет доступен бесплатно и рассчитан на пользователей, журналистов, блогеров и редакции, которым нужно быстро понять, насколько материал похож на фейк.

KodikScan умеет анализировать изображения, видео, аудио и текст. Система ищет скрытые признаки ИИ-генерации: визуальные паттерны, структуру шума, динамику кадров в видео, особенности голоса в аудио и статистические закономерности в тексте.

После этого инструмент оценивает вероятность того, что контент был создан или изменён нейросетью.

По словам разработчика ИИ-среды Kodik Рафаэля Гильмурахманова, сервис задумывался как инструмент для цифровой гигиены. Он отметил, что фейковый контент всё чаще используют в мошеннических схемах: например, злоумышленники могут присылать «кружочки» или видеосообщения якобы от знакомых с просьбой перейти по ссылке или перевести деньги.

Для обычных пользователей такая проверка может стать способом не повестись на подделку. Для СМИ и авторов пабликов — дополнительным фильтром перед публикацией спорных материалов. Особенно это актуально на фоне обсуждения инициатив по превентивной блокировке резонансных дипфейков до проверки их достоверности.

Разработчики также планируют предоставить KodikScan журналистам российских СМИ для тестирования в рабочих задачах. Воспользоваться сервисом может любой желающий на сайте scan.kodik.ru: достаточно загрузить файл и получить оценку вероятности применения ИИ.

По данным «Архитех ИИ», на тестах инструмент определял признаки генерации искусственным интеллектом с точностью 98,03%. При этом, как и с любыми подобными системами, результат стоит воспринимать не как окончательный приговор, а как подсказку: если сервис видит признаки ИИ, материал точно стоит проверить внимательнее.

RSS: Новости на портале Anti-Malware.ru