Новая ИИ-модель копирует собеседника путем проведения опроса

Новая ИИ-модель копирует собеседника путем проведения опроса

Новая ИИ-модель копирует собеседника путем проведения опроса

Исследователи из трех американских университетов и команды Google DeepMind создали модель генеративного ИИ, способную после двухчасового аудиоинтервью сымитировать личность и поведение собеседника с точностью до 85%.

В контрольную выборку вошли 1052 добровольца разного возраста, пола, образования, достатка, национальности, вероисповедания и политических взглядов. Для всех были созданы индивидуальные программы-агенты одинаковой архитектуры.

Разработанный сценарий бесед включал обычные для социологических исследований вопросы, тесты «Большая пятерка» для построения модели личности, пять экономических игр («Диктатор», «Общественное благо» и проч.) и поведенческую анкету, составленную в ходе недавних экспериментов с большими языковыми моделями (БЯМ, LLM).

Ответы испытуемых сохранялись в памяти для использования в качестве контекста. Спустя две недели добровольцам предложили пройти тот же опрос, и LLM смогла предугадать их реплики с точностью до 85%.

 

По мнению авторов исследования, их метод создания цифровых двойников — хорошее подспорье в изучении индивидуального и коллективного поведения. Полученные результаты также можно использовать в социологии и для выработки политических решений.

К сожалению, совершенствование ИИ-технологий — палка о двух концах. Попав в руки злоумышленников, подобный инструмент позволит создавать еще более убедительные дипфейки, чтобы вводить в заблуждение интернет-пользователей с корыстной либо иной неблаговидной целью.

Бесплатный ChatGPT с подвохом: МВД предупредило о новом Android-трояне

Мошенники получили новое оружие против владельцев Android-смартфонов. Управление по борьбе с киберпреступлениями МВД России предупредило о распространении вредоносной программы Drama RAT, которая позволяет злоумышленникам практически полностью взять устройство под свой контроль.

Сценарий заражения выглядит знакомо. Пользователю присылают ссылку или файл через мессенджеры, электронную почту либо СМС.

В качестве приманки предлагают бесплатный доступ к ChatGPT, подписку на «Яндекс Музыку», новый VPN-сервис или модификации для Minecraft. В ход также идут файлы с вполне безобидными названиями вроде «Декларация» или «Счёт на оплату».

После установки приложение просит разрешить обновление. На самом деле в этот момент в фоновом режиме загружается основная вредоносная нагрузка. Затем начинается самое интересное.

Троян требует предоставить доступ к службам специальных возможностей Android. Многие пользователи автоматически соглашаются, не подозревая, что фактически отдают приложению полный контроль над экраном.

После этого Drama RAT может читать содержимое интерфейса, перехватывать логины, пароли и коды подтверждения, а также имитировать нажатия на экран от имени владельца устройства.

Но и этого злоумышленникам оказалось мало. Вредонос дополнительно предлагает установить ПИН-код блокировки, благодаря чему атакующий получает возможность в любой момент заблокировать смартфон и лишить владельца доступа к устройству.

Особенность Drama RAT заключается в его архитектуре. Основная вредоносная библиотека хранится в зашифрованном виде и разворачивается только в оперативной памяти. Из-за этого обычный анализ APK-файла может не выявить угрозу.

Дополнительную сложность для специалистов создает защищённый канал связи с управляющим сервером. Для подключения используется взаимная аутентификация по сертификатам, поэтому перехватить и проанализировать трафик стандартными средствами крайне непросто.

В МВД напоминают: не стоит устанавливать приложения из непроверенных источников, даже если они обещают бесплатный доступ к популярным сервисам или полезным функциям. В случае с Drama RAT цена такой халявы может оказаться полной потерей контроля над смартфоном и банковскими приложениями.

RSS: Новости на портале Anti-Malware.ru