Spotify взорвала фейковая рок-группа, созданная искусственным интеллектом

Spotify взорвала фейковая рок-группа, созданная искусственным интеллектом

Spotify взорвала фейковая рок-группа, созданная искусственным интеллектом

На Spotify внезапно выстрелила новая группа под названием The Velvet Sundown. Вроде бы — классический рок, два альбома, третий на подходе, уже полмиллиона слушателей. Только есть один нюанс: похоже, это не настоящая группа, а полностью сгенерированный ИИ-проект.

У The Velvet Sundown вышли два альбома — Floating On Echoes и Dust and Silence. Звук — что-то вроде атмосферного рока с кучей реверберации и автотюна.

В миксе они могут показаться чем-то реальным, но если послушать треки подряд, становится понятно: слишком уж однообразно, слишком «пластиково».

Сомнения у слушателей начали появляться совсем недавно: в соцсетях и на Reddit стали обсуждать, что у группы нет ни одного подтверждённого участника. Четыре имени в описании — и ни одного реального человека. Ни концертов, ни интервью, ни фоток из студии — ничего.

27 июня у The Velvet Sundown появился Instagram (принадлежит Meta, признанной экстремисткой и запрещённой в России), и всё окончательно стало на свои места. Фото «участников группы» — это классика ИИ: идеально гладкие лица, странные детали на заднем плане.

В одном из постов «группа» якобы отмечает успех альбомов в бургерной, но на столе — куча бургеров и напитков, ни одной тарелки, а еда расставлена как попало. И, конечно, всё выглядит немного... не по-настоящему.

Интересно, что это не первый подобный случай. В недавнем выпуске шоу Last Week Tonight Джон Оливер рассказывал об ИИ-группе The Devil Inside, которая за два года выпустила 10 альбомов. И у неё, кстати, тоже частые отсылки к «пыли» и «ветру» — похоже, это побочный эффект музыкальных нейросетей, которые не очень разнообразны в своих темах.

Spotify, похоже, не особо парится по поводу происхождения контента: платформа не требует указывать, создана ли музыка ИИ. На Deezer же у The Velvet Sundown есть сноска:

«Некоторые треки могли быть созданы с использованием искусственного интеллекта».

При этом в описании на Spotify раньше упоминалось, что музыку группы хвалил Billboard — сейчас похвала осталась, а вот упоминание издания исчезло.

Сейчас Instagram (принадлежит Meta, признанной экстремисткой и запрещённой в России) группы завален комментариями, разоблачающими ИИ-происхождение проекта. Но впереди — эпоха, когда различить, человек перед тобой или нейросеть, будет всё сложнее.

ИИ-музыка — это интересная технология. Но важно, чтобы слушатели знали, кто автор: человек с эмоциями и опытом — или машина, которая просто собрала всё по шаблону. И возможно, нам пора задуматься о метках для ИИ-контента не только в изображениях, но и в музыке.

Ранее мы писали об истории с радио CADA в Сиднее, на котором появилась новая музыкальная программа — Workdays with Thy («Трудовые будни с Тай»). Как оказалось, никто даже не заподозрил, что ее ведет диджей, сгенерированный ИИ.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Банки могут ограничить операции по счетам подростков 100 тыс. руб. в месяц

Банк России выпустил методичку по обслуживанию несовершеннолетних физлиц. Приведенные в документе рекомендации призваны сократить число случаев вовлечения таких клиентов в преступные финансовые схемы.

В стране растет активность мошенников, вербующих подростков в качестве помощников по отъему денег у граждан и отмыванию нетрудовых доходов. Регулятор призывает кредитные организации повысить внимание к операциям по счетам физлиц в возрасте от 14 до 18 лет.

При открытии счета несовершеннолетнему клиенту банкам рекомендуется проинформировать его о рисках и последствиях соучастия в преступлениях, а также о способах противодействия вербовке.

Условия таких договоров, в том числе действующих, следует пересмотреть и внести пункт об уведомлении родителей о выдаче их чаду банковской карты, а в дальнейшем — о совершаемых по ней операциях.

Банкам также советуют заранее узнать, с кем подросток собирается обменивать переводами и с каким представителем его интересов можно будет связаться при движении крупных сумм на счету.

Во внутренней документации банков по противодействию отмыванию доходов и финансированию терроризма рекомендуется определить признаки вовлечения несовершеннолетних в преступную деятельность.

Кроме того, ЦБ настоятельно советует прописать в договорах с подростками лимит на операции по зачислению средств на счет сторонними лицами, а также на операции по внесению / снятию наличных — суммарно не более 100 тыс. руб. в месяц.

Если при обслуживании таких клиентов возникнет подозрение, что инициатор сделки — посторонний человек, либо подросток действует под чьим-то руководством, банк вправе отказать в проведении платежа.

Напомним, в России с лета действует запрет на заключение договоров банковского счета с лицами в возрасте от 14 до 18 лет без письменного согласия их родителей или других законных представителей. Исключение составляют случаи, когда подросток по достижении 16 лет работает по трудовому договору либо занимается предпринимательской деятельностью с согласия родителей / усыновителей / попечителя.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru