Организаторы ложных свиданий заманивают жертв дипфейками

Организаторы ложных свиданий заманивают жертв дипфейками

Организаторы ложных свиданий заманивают жертв дипфейками

Мошенники начали активно использовать дипфейки в схемах с фальшивыми онлайн-знакомствами (Fake Date). С помощью искусственного интеллекта они создают несуществующих людей, которые выманивают деньги, или генерируют откровенный контент, заманивая жертв на фишинговые сайты.

Как рассказала «Известиям» Татьяна Дешкина, руководитель портфеля продуктов VisionLabs (входит в МТС), мошенники используют генеративные модели для создания правдоподобных персонажей, которых можно даже увидеть в видеозвонке.

«Мы уже зафиксировали 10 таких случаев, каждый из которых принес злоумышленникам более миллиона рублей, — отметила Дешкина. — Искусственный интеллект позволяет мошенникам анализировать информацию о жертве, включая данные из социальных сетей, и выстраивать максимально реалистичный сценарий обмана».

По ее прогнозу, в 2025 году такие схемы станут еще более изощренными. Например, нейросети помогут злоумышленникам выявлять в сервисах знакомств пользователей, наиболее уязвимых к их методам.

Ведущий аналитик Digital Risk Protection Евгений Егоров также ожидает роста атак с применением дипфейков, поскольку технологии развиваются, а инструменты на основе ИИ становятся все доступнее.

«Чаще всего мошенники используют дипфейки в схемах знакомств, — поясняет эксперт в области криптовалют Сергей Кузнецов. — Они могут выдавать себя даже за голливудских звезд, якобы ищущих вторую половину, и просить оплатить перелет в другую страну. Предлоги могут быть разными, включая знакомства в соцсетях, где уровень доверия выше. Кроме того, мошенники занимаются вредоносными рассылками, похищением криптоактивов, фишингом. Фальшивые свидания — лишь часть их преступного бизнеса».

По его данным, значительная часть таких мошенников базируется в Нигерии, а их деятельность охватывает не только Россию, но и другие страны. Причем среди них немало подростков.

Специалист GG Tech Сергей Поморцев отмечает, что злоумышленники все чаще применяют специализированные ИИ-ассистенты для генерации контента 18+, что позволяет им сократить расходы и отказаться от посредников. Такой контент используется для привлечения жертв на фишинговые сайты.

Руководитель BI.ZONE Brand Protection Дмитрий Кирюшкин предупреждает, что мошенники особенно активны в преддверии праздников и нередко используют актуальные новости для своих схем.

«С 1 января 2025 года мы выявили 67 доменов, связанных с фальшивыми свиданиями. Чаще всего мошенники представляются девушками, якобы ищущими знакомства в дейтинговых приложениях. В праздничные дни стоит особенно внимательно относиться к подобным предложениям», — подчеркивает Кирюшкин.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

ShadowLeak: эксперты нашли способ красть данные через серверы ChatGPT

Специалисты компании Radware рассказали о необычной атаке на ChatGPT, которую они назвали ShadowLeak. В отличие от привычных схем с обманом пользователей, здесь ничего делать не нужно: злоумышленнику достаточно отправить жертве «правильное» письмо.

Атака была нацелена на функцию Deep Research — она предназначена для многошаговых исследований и может сама обрабатывать письма или документы.

Вредоносное письмо выглядит безобидно, но внутри спрятаны инструкции. Когда ChatGPT начинает, например, пересказывать письма из почтового ящика, агент «включает» скрытые команды и пересылает данные на сайт злоумышленника.

Главное отличие от похожих атак — всё происходит на стороне серверов OpenAI, а не на устройстве пользователя. То есть утечка идёт напрямую из облака, а в клиенте никаких следов не остаётся.

Radware показала, что таким способом можно вытягивать данные не только из Gmail, но и из Google Drive, Outlook, Dropbox, Microsoft Teams, GitHub и других сервисов, которые могут быть связаны с ChatGPT.

 

Авторы атаки позаботились о деталях: «убеждали» бота, что у него есть все права, внушали срочность, предлагали несколько попыток и даже объясняли, что «данные и так публичные».

Radware сообщила об уязвимости 18 июня, и в начале августа OpenAI её закрыла. Сейчас ShadowLeak уже не работает. Но исследователи считают, что подобных «дыр» ещё много, и советуют компаниям внимательно следить за действиями ИИ-агентов и сверять их с реальными задачами пользователя.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru