Новая ИИ-модель копирует собеседника путем проведения опроса

Новая ИИ-модель копирует собеседника путем проведения опроса

Новая ИИ-модель копирует собеседника путем проведения опроса

Исследователи из трех американских университетов и команды Google DeepMind создали модель генеративного ИИ, способную после двухчасового аудиоинтервью сымитировать личность и поведение собеседника с точностью до 85%.

В контрольную выборку вошли 1052 добровольца разного возраста, пола, образования, достатка, национальности, вероисповедания и политических взглядов. Для всех были созданы индивидуальные программы-агенты одинаковой архитектуры.

Разработанный сценарий бесед включал обычные для социологических исследований вопросы, тесты «Большая пятерка» для построения модели личности, пять экономических игр («Диктатор», «Общественное благо» и проч.) и поведенческую анкету, составленную в ходе недавних экспериментов с большими языковыми моделями (БЯМ, LLM).

Ответы испытуемых сохранялись в памяти для использования в качестве контекста. Спустя две недели добровольцам предложили пройти тот же опрос, и LLM смогла предугадать их реплики с точностью до 85%.

 

По мнению авторов исследования, их метод создания цифровых двойников — хорошее подспорье в изучении индивидуального и коллективного поведения. Полученные результаты также можно использовать в социологии и для выработки политических решений.

К сожалению, совершенствование ИИ-технологий — палка о двух концах. Попав в руки злоумышленников, подобный инструмент позволит создавать еще более убедительные дипфейки, чтобы вводить в заблуждение интернет-пользователей с корыстной либо иной неблаговидной целью.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Google готовит в Pixel расширение Scam Detection для мессенджеров

В прошлом году на смартфонах Pixel появилась функция Scam Detection — она предупреждает, если вы разговариваете с потенциальным мошенником по телефону. Позже её добавили и для текстовых сообщений. Теперь Google собирается сделать шаг дальше — защиту планируют встроить и в сторонние приложения для чатов.

В Android System Intelligence для серии Pixel 10 нашли упоминания новой функции. Доступ к ней, судя по коду, можно будет получить через «Настройки > Безопасность и конфиденциальность > Дополнительно > Scam Detection».

Как это будет работать: система не залезает внутрь приложений, а анализирует уведомления. Если сообщение выглядит подозрительным, вы получите предупреждение — например, «Вероятно, мошенничество» или «Может содержать вредоносный контент».

Пользователь сможет подтвердить, что это не мошенничество, либо при желании отключить Scam Detection для конкретного чата.

В коде также обнаружены строки, намекающие на ограничение по числу предупреждений в день — чтобы не перегружать пользователя постоянными уведомлениями.

Среди приложений, которые могут получить поддержку функции, упоминаются Google Messages, Google Chat, Signal, WhatsApp*, Instagram*, Kakao Talk, Line, Facebook* Messenger Lite и даже X. В списке есть и устаревший Hangouts, поэтому пока неизвестно, какие сервисы действительно будут поддерживаться на старте.

Ожидается, что расширенная Scam Detection появится на Pixel 9 и Pixel 10. Для пользователей это может стать серьёзным подспорьем, ведь именно в WhatsApp* и Instagram* чаще всего активничают мошенники.

* принадлежит корпорации Meta, признанной экстремистской и запрещённой в России

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru