Аутентификацию по голосу можно обмануть дипфейком с вероятностью до 99%

Аутентификацию по голосу можно обмануть дипфейком с вероятностью до 99%

Аутентификацию по голосу можно обмануть дипфейком с вероятностью до 99%

Сотрудники канадского Университета Ватерлоо доказали, что меры против спуфинга, реализуемые в системах аутентификации по голосу, далеки от совершенства. Разработанный учеными метод обхода при тестировании показал эффективность 99% после шести попыток.

Аутентификация по образцу голоса все чаще используется в кол-центрах, системах ДБО, госсекторе и других сферах с повышенными требованиями к ИБ. Такие средства удостоверения личности полагаются на уникальность человеческого голоса, обусловленную анатомическими особенностями артикуляционного аппарата.

В рамках процедуры аутентификации по голосу, как пояснили исследователи, человека просят произнести определенную фразу. Система извлекает из образца голосовую подпись (отпечаток) и сохраняет ее на сервере. На следующий раз для повторения выдается другая фраза, отпечаток сравнивается с сохраненным, и по результатам доступ предоставляется или нет.

С появлением инструментов для создания дипфейков злоумышленники быстро сообразили, что это хорошая возможность для создания убедительных копий голоса с целью фрода. В ответ разработчики защитных решений стали принимать меры против таких имитаций; в настоящее время это в основном проверки на наличие в образцах признаков (маркеров) искусственного происхождения.

Программа синтеза речи, написанная канадцами в ходе исследования, использует алгоритмы машинного обучения и способна сгенерировать дипфейк по пятиминутной аудиозаписи. Она также умеет удалять артефакты, выдающие подлог, и обходить таким образом современную защиту от спуфинга.

Обучение системы проводилось на наборе из 107 образцов человеческой речи; для тестирования было создано множество дипфейк-аудио, способных ввести в заблуждение средства идентификации по голосу.

В 72% случаев исследователям удалось добиться успеха, вероятность обхода более слабых систем аутентификации оказалась еще выше — 99% за шесть попыток. Четырехсекундная атака на Amazon Connect показала 10% успеха; прогон тестов в течение 30 секунд повысил этот показатель до 40%.

Исследование выявило несовершенство современных мер защиты от спуфинга, реализованных в современных системах аутентификации по голосу. Университетские исследователи убеждены, что такую биометрию нельзя использовать как единственный способ удостоверить личность., нужны дополнительные средства — или более эффективные меры защиты от абьюзов.

В России письменные дипломы могут заменить устными экзаменами из-за ИИ

Развитие искусственного интеллекта может довести российские вузы до очень старой, но внезапно снова актуальной идеи: вместо письменной дипломной работы — устный экзамен. Министр науки и высшего образования РФ Валерий Фальков заявил, что такой формат позволит честнее оценивать реальные знания и компетенции студентов.

Логика простая: если текст можно сгенерировать, отредактировать и красиво упаковать с помощью ИИ, то сама по себе письменная работа уже не всегда показывает, что студент действительно понимает тему.

А вот на устном экзамене спрятаться за нейросетью сложнее: преподаватель задаёт вопросы, уточняет детали, просит объяснить логику, и там уже видно, кто разбирался, а кто просто принёс красиво оформленный документ.

Фальков, как передаёт ТАСС, назвал это возвращением к истокам высшего образования с помощью ИИ. По его словам, никакая система не подготовит студента к живым вопросам преподавателя так, чтобы это нельзя было почувствовать.

Ранее министр также говорил, что уже в ближайшие годы в вузы придут студенты, для которых искусственный интеллект будет привычным инструментом с рождения. Это означает, что подходы к обучению и оценке знаний придётся пересматривать регулярно, а не раз в десятилетие по большим праздникам.

По сути, университеты сталкиваются с простой проблемой: если ИИ умеет писать всё лучше, проверять нужно не только текст, но и человека за этим текстом. И устный экзамен здесь выглядит не архаикой, а вполне рабочим античитом против дипломов, собранных по принципу «нейросеть, сделай красиво».

RSS: Новости на портале Anti-Malware.ru