Ученые предложили выявлять голосовые дипфейки с помощью флюидодинамики

Ученые предложили выявлять голосовые дипфейки с помощью флюидодинамики

Ученые предложили выявлять голосовые дипфейки с помощью флюидодинамики

В университете Флориды изучили достижения артикуляционной фонетики и разработали новую технику распознавания дипфейк-аудио — по отсутствию ограничений, влияющих на работу голосового аппарата человека. Созданный в ходе исследования детектор способен по одной фразе определить подмену с точностью 92,4%.

Создание дипфейков стало возможным лишь с развитием технологий машинного обучения. Новый инструментарий, позволяющий создавать убедительные имитации, уже по достоинству оценили злоумышленники: собрав ПДн из открытых источников, они проводят пробные атаки, в том числе для получения финансовой выгоды.

Инциденты с использованием дипфейков снижают доверие к цифровым средствам коммуникации, но пока редки. Тем не менее, новую угрозу нельзя сбрасывать со счетов, и эксперты озаботились совершенствованием средств подтверждения личности.

Выявить поддельное видео, созданное с помощью ИИ, можно путем анализа визуальных артефактов — по разнице в мимике (частоте моргания, например) или различию приметных частей лица (подбородка, бровей, скул, усов и бороды, веснушек, родимых пятен). Качественный синтез речи, используемый с неблаговидной целью, представляет более серьезную угрозу, так как дистанционное общение зачастую происходит только вербально — по телефону, с использованием радиосвязи или аудиозаписи.

Защититься от таких высокотехнологичных атак, по мнению ученых из Флориды, можно с помощью газодинамики — оценкой речевого тракта говорящего, который можно воссоздать средствами моделирования. Дело в том, что на человеческую речь влияют анатомические особенности его голосового аппарата: связок, языка, челюстей, губ. При генерации звуков (фонем) эти участники процесса используются по-разному, но всегда в пределах лимитов, заданных природой.

Исследование показало, что звуковые дипфейки не учитывают такие ограничения. Более того, при реконструкции речевого тракта они показали схожие результаты, далекие от реальности:

 

Способность современного противника ответить на этот вызов университетские исследователи оценили как близкую к нулю. О своем методе выявления дипфейк-аудио они рассказали (PDF) в прошлом месяце на конференции USENIX по безопасности, которая прошла в Бостоне. Созданный в ходе исследования программный код выложен в общий доступ на GitHub.

Минцифры признало: искать VPN на iPhone оказалось сложнее, чем на Android

Минцифры разослало крупнейшим российским интернет-компаниям рекомендации по выявлению VPN у пользователей. Но сразу выяснилось главное: с iPhone всё не так просто. В документе прямо говорится, что поиск VPN на устройствах Apple «существенно ограничен».

О самой методичке сообщил РБК. По данным издания, её получили более 20 крупных площадок, включая «Сбер», «Яндекс», VK, Wildberries, Ozon, Avito и X5.

Документ стал продолжением недавних совещаний Минцифры с ИТ-компаниями, на которых министр Максут Шадаев поручил до 15 апреля ограничить доступ к интернет-сервисам для пользователей с включённым VPN.

Причём речь, судя по всему, идёт не только о блокировке таких пользователей. От компаний также ждут помощи в выявлении VPN-сервисов, которые Роскомнадзор ещё не успел обнаружить и ограничить.

Схема, предложенная министерством, состоит из трёх этапов. Сначала компании должны определять IP-адрес пользователя и сравнивать его с российскими IP, а также с адресами, уже попавшими под ограничения Роскомнадзора. Затем предлагается проверять наличие средств обхода блокировок через собственное приложение, если оно установлено на устройстве пользователя. Третий этап касается устройств на других операционных системах — например, Windows или macOS.

Если, к примеру, IP показывает другую страну, совпадает с заблокированным диапазоном или у пользователя слишком часто меняется география подключения, это может стать поводом для блокировки. Но, как отмечается в рекомендациях, одного такого признака недостаточно: его нужно подтвердить на втором или третьем этапе.

И вот тут начинаются сложности с техникой Apple. В документе указано, что на iOS доступ к системным параметрам сильно ограничен. Сторонние приложения там изолированы друг от друга и не могут свободно собирать данные из других приложений или из системы в целом. Проще говоря, приложение не может просто так заглянуть в настройки устройства и понять, идёт ли трафик через VPN.

С Android всё заметно проще. Там, как сказано в рекомендациях, приложение может использовать системные инструменты вроде ConnectivityManager и NetworkCapabilities, чтобы проверить параметры сети и определить, идёт ли подключение через VPN.

История развивается на фоне общего ужесточения борьбы с сервисами обхода блокировок. В конце марта Максут Шадаев также просил крупных мобильных операторов ограничить способы пополнения Apple ID, объясняя это борьбой с VPN. Уже с 1 апреля МТС, «Билайн», «МегаФон» и Т2 отключили соответствующие возможности: кто-то убрал прямое пополнение со счёта телефона, а кто-то перестал продавать подходящие сертификаты через партнёров.

Среди других обсуждавшихся мер была и идея ввести плату за использование более 15 Гб международного трафика в месяц. Но пока эта инициатива, как сообщается, так и не была реализована.

RSS: Новости на портале Anti-Malware.ru