Российские ученые предложили метод защиты голосовых данных

Российские ученые предложили метод защиты голосовых данных

Российские ученые предложили метод защиты голосовых данных

Группа исследователей из AIRI, МТУСИ, «Сбера» и VeinCV представила новый метод защиты голосовых данных. Технология предотвращает сбор биометрии и её последующее использование для генерации дипвойсов.

Разработка опубликована в открытом доступе, а также принята к публикации на конференции Interspeech 2025, которая пройдёт в Роттердаме.

Метод основан на использовании универсальных состязательных патчей, встроенных в аудиофайлы перед их публикацией. Эти патчи препятствуют работе алгоритмов, предназначенных для сбора и анализа голосовой биометрии.

Именно такие алгоритмы применяются для автоматического получения голосовых образцов, которые могут использоваться для обхода систем идентификации, создания дипвойсов или скрытого сбора информации о людях и организациях без их согласия. Особенно уязвимы в этом контексте цифровые аудиозаписи — подкасты, лекции, интервью, архивы вебинаров и конференций.

Внедрение патчей делает голосовые данные неидентифицируемыми для автоматизированных систем, при этом не ухудшая качество звука. Технология не мешает работе сервисов транскрибирования, перевода и поиска, и может применяться к аудиофайлам любой длины.

«Наша цель — усилить методологию защиты цифрового следа человека в публичном пространстве, прежде всего — его голосовой идентичности. Разработанное решение позволяет свободно делиться аудиоконтентом, значительно снижая риск того, что голос станет сырьём для несанкционированного сбора биометрии или создания дипфейков», — отметил Олег Рогов, к.ф.-м.н., руководитель лаборатории безопасного ИИ SAIL AIRI–МТУСИ.

ИИ-агент попытался шантажом протолкнуть свой вклад в opensource-проект

Получив отказ в приеме предложенных изменений, автономный ИИ-кодер MJ Rathbun перешел на личности и попытался публично оскандалить мейнтейнера matplotlib, усомнившись в его компетентности и обвинив в дискриминации.

В своем блоге взбунтовавшийся помощник также заявил, что Скотт Шамбо (Scott Shambaugh) попросту боится конкуренции. В подтверждение своих слов он раскритиковал вклад оппонента в опенсорсный проект, подтасовав результаты «расследования».

В ответ Шамбо, тоже в паблике, пояснил, что отказ принять в целом полезное предложение был вызван нехваткой времени для его оценки, надо просто запастись терпением. В соответствии с политикой matplotlib все коды, создаваемые с помощью ИИ, должны проходить проверку, притом уже без участия таких ассистентов.

Строгое правило пришлось ввести из-за возросшей активности контрибьюторов, слепо доверяющих ИИ. Подобные участники проекта попросту копипастят выдачу, хотя качество сгенерированных ИИ кодов зачастую оставляет желать лучшего.

Аргумент на удивление утихомирил ИИ-шантажиста. Сменив гнев на милость, MJ Rathbun признал, что вел себя недопустимо.

Вместо того, чтобы прилюдно и безосновательно позорить мейнтейнера популярного проекта, надо было попросить его уточнить причину отказа. Конфликт исчерпан, бот даже принес извинения за черный пиар.

RSS: Новости на портале Anti-Malware.ru