Новая ИИ-модель копирует собеседника путем проведения опроса

Новая ИИ-модель копирует собеседника путем проведения опроса

Новая ИИ-модель копирует собеседника путем проведения опроса

Исследователи из трех американских университетов и команды Google DeepMind создали модель генеративного ИИ, способную после двухчасового аудиоинтервью сымитировать личность и поведение собеседника с точностью до 85%.

В контрольную выборку вошли 1052 добровольца разного возраста, пола, образования, достатка, национальности, вероисповедания и политических взглядов. Для всех были созданы индивидуальные программы-агенты одинаковой архитектуры.

Разработанный сценарий бесед включал обычные для социологических исследований вопросы, тесты «Большая пятерка» для построения модели личности, пять экономических игр («Диктатор», «Общественное благо» и проч.) и поведенческую анкету, составленную в ходе недавних экспериментов с большими языковыми моделями (БЯМ, LLM).

Ответы испытуемых сохранялись в памяти для использования в качестве контекста. Спустя две недели добровольцам предложили пройти тот же опрос, и LLM смогла предугадать их реплики с точностью до 85%.

 

По мнению авторов исследования, их метод создания цифровых двойников — хорошее подспорье в изучении индивидуального и коллективного поведения. Полученные результаты также можно использовать в социологии и для выработки политических решений.

К сожалению, совершенствование ИИ-технологий — палка о двух концах. Попав в руки злоумышленников, подобный инструмент позволит создавать еще более убедительные дипфейки, чтобы вводить в заблуждение интернет-пользователей с корыстной либо иной неблаговидной целью.

Android будет предупреждать о поддельных звонках от родственников

Google запускает новую функцию Fake Call Detection, которая должна усложнить жизнь мошенникам, подделывающим номера телефонов и голоса знакомых людей. Технология появится на Android уже в этом месяце. Первыми её получат владельцы смартфонов Pixel, после чего функция начнёт распространяться на другие устройства.

Главная цель новинки — борьба с так называемыми дипфейк-звонками. Речь идёт о ситуациях, когда злоумышленники подменяют номер телефона родственника, коллеги или знакомого, а затем используют ИИ для клонирования его голоса.

Сегодня для создания убедительной голосовой копии достаточно нескольких секунд аудиозаписи из видео, соцсетей или публичных выступлений. Именно поэтому мошенники всё чаще представляются детьми, родителями, руководителями компаний или другими людьми, которым жертва привыкла доверять.

Новая система работает как своеобразная цифровая проверка личности между устройствами. Если оба собеседника используют приложение Phone by Google на Android 12 или более новой версии ОС, смартфоны автоматически обмениваются специальным зашифрованным подтверждением через протокол RCS.

 

Если звонок действительно поступает с устройства контакта, всё проходит незаметно для пользователя. Но если мошенник подделывает номер, нужного подтверждения не будет.

В этом случае смартфон дополнительно проверит информацию на устройстве контакта. Если окажется, что тот вообще никому не звонит, на экране появится предупреждение о возможном мошенничестве с рекомендацией немедленно завершить разговор.

По словам Google, функция должна стать дополнительным уровнем защиты от атак с использованием голосовых дипфейков, которые в последние годы становятся всё более распространёнными. Причём если раньше такие схемы в основном использовались против частных лиц, особенно пожилых людей, то сейчас они всё чаще применяются для атак на компании, сотрудников и руководителей.

Функция будет включена по умолчанию, однако её можно отключить в настройках Phone by Google.

RSS: Новости на портале Anti-Malware.ru