Новая ИИ-модель копирует собеседника путем проведения опроса

Новая ИИ-модель копирует собеседника путем проведения опроса

Новая ИИ-модель копирует собеседника путем проведения опроса

Исследователи из трех американских университетов и команды Google DeepMind создали модель генеративного ИИ, способную после двухчасового аудиоинтервью сымитировать личность и поведение собеседника с точностью до 85%.

В контрольную выборку вошли 1052 добровольца разного возраста, пола, образования, достатка, национальности, вероисповедания и политических взглядов. Для всех были созданы индивидуальные программы-агенты одинаковой архитектуры.

Разработанный сценарий бесед включал обычные для социологических исследований вопросы, тесты «Большая пятерка» для построения модели личности, пять экономических игр («Диктатор», «Общественное благо» и проч.) и поведенческую анкету, составленную в ходе недавних экспериментов с большими языковыми моделями (БЯМ, LLM).

Ответы испытуемых сохранялись в памяти для использования в качестве контекста. Спустя две недели добровольцам предложили пройти тот же опрос, и LLM смогла предугадать их реплики с точностью до 85%.

 

По мнению авторов исследования, их метод создания цифровых двойников — хорошее подспорье в изучении индивидуального и коллективного поведения. Полученные результаты также можно использовать в социологии и для выработки политических решений.

К сожалению, совершенствование ИИ-технологий — палка о двух концах. Попав в руки злоумышленников, подобный инструмент позволит создавать еще более убедительные дипфейки, чтобы вводить в заблуждение интернет-пользователей с корыстной либо иной неблаговидной целью.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

С атаками дипфейков рискует столкнуться каждый второй россиянин

Уже в этом году каждый второй россиянин может столкнуться с атакой, в ходе которой злоумышленники применяют технологии дипфейка. По прогнозам, в 2026 году преступники смогут подменять свои голоса в реальном времени.

Такой прогноз озвучили «Известиям» представители компаний, занимающихся развитием технологий искусственного интеллекта (ИИ). Согласно данным MTS AI, уже в этом году с дипфейк-атаками может столкнуться каждый второй житель России.

«Видеокружки и голосовые сообщения в мессенджерах — одни из самых популярных способов общения, а значит — одни из наиболее уязвимых для мошеннических схем после телефонных звонков. В отличие от звонков, которые можно защитить с помощью определителя номера и других инструментов, у голосовых сообщений и кружков нет технической возможности проверки источника», — пояснили в MTS AI.

По оценке экспертов, уже в следующем году злоумышленники смогут в реальном времени имитировать разговоры с «дочкой, попавшей в беду», «другом, просящим денег» или «коллегой, срочно требующим перевод». Качество подделок уже достигло уровня, при котором отличить подделку от оригинала крайне сложно, а в будущем это станет практически невозможно.

Еще в 2024 году мошенники воспользовались дипфейк-видео с изображением мэра Москвы Сергея Собянина, чтобы убедить пожилого москвича, будто через его счёт проходят украденные государственные средства. «Сотрудник ФСБ» дал инструкции перевести деньги на «безопасный счёт».

В апреле 2025 года губернатор Кемеровской области Дмитрий Анисимов сообщил о появлении своего «цифрового двойника»:

«Злоумышленники создают поддельные видеоролики с моим изображением и совершают видеозвонки от моего имени. Под видом личного обращения они вводят людей в заблуждение. Прошу вас сохранять бдительность».

По данным на первый квартал 2025 года, количество политически мотивированных дипфейков в России достигло 65% от общего уровня за весь 2024 год. При этом за прошлый год прирост составил 3,6 раза.

В MTS AI также сообщили о как минимум пяти случаях, когда мошенники обманули пользователей сервисов знакомств. Злоумышленники переводили общение в мессенджеры, где под разными предлогами выманивали деньги.

Тем не менее, как отмечает руководитель направления исследования данных в «Лаборатории Касперского» Дмитрий Аникин, создать по-настоящему правдоподобную видеокопию непросто. Это требует большого количества изображений человека в разном ракурсе и освещении. Генерация голосовых сообщений также остаётся нестабильной.

Чтобы скрыть визуальные и аудиодефекты, злоумышленники прибегают к различным приёмам — одним из них является использование видеокружков.

Руководитель портфеля продуктов VisionLabs Татьяна Дешкина добавляет, что преступники применяют разные приложения для генерации дипфейков, в том числе разработанные самостоятельно. Кроме того, у них есть собственные команды, обучающие нейросети.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru