6 velikih težav z Deepfake glasbo

Nove pesmi znanih izvajalcev postajajo viralne na družbenih omrežjih, kar običajno ni problem, razen če poje glasovni klon. Medtem ko je bil eden zadnjih medijev, ki je obstal, je deepfake glasba zdaj resničnost.

Deluje tako, da usposobi model AI za pevčev glas in rezultati niso vedno slabi. Pri ustvarjanju deepfake pesmi je veliko resnične ustvarjalnosti, vendar težava ni samo v rezultatu. V mnogih primerih dovoljenje ni izdano in vprašanja o tem, kdo prejme plačilo in ali je to etično, so le nekatere od težav glasbe deepfake.

1. Nepooblaščeni nabori podatkov

Če želite ustvariti globoko lažno skladbo slavnega umetnika, morate zbrati zvočne datoteke njihovega pevskega glasu v nabor podatkov. Podobno kot pri vseh podatkih, ki pripadajo nekomu, bi verjetno morali pridobiti njihovo dovoljenje za uporabo, vendar deepfake pesem lahko doseže veliko glasbeno platformo, kot je YouTube, Spotify ali TikTok, če je uporabila nepooblaščeno nabor podatkov.

To se je zgodilo umetnikoma Drakeu in The Weekndu, ko je uporabnik z imenom Ghostwriter ustvaril "Heart on My Sleeve". Uspešnica je vsebovala glasove umetnikov, ki jih je sintetizirala umetna inteligenca, skupaj z besedilom o nekdanjem dekletu The Weeknda.

Oboževalci so v pesmi resnično uživali, Ghostwriter pa je prejel dodatno pohvalo za kreativno uporabo deepfake vokala, a kot Seattle Times je poročal, tega niso vsi videli tako. Tiskovni predstavnik Universal Music Group, glavne založbe, ki stoji za obema izvajalcema, sprašuje:

»Na kateri strani zgodovine želijo biti deležniki v glasbenem ekosistemu: na strani umetnikov, oboževalcev in človeški ustvarjalni izraz, ali na strani globokih ponaredkov, goljufij in odrekanja umetnikom pripadajočega nadomestila?"

2. Zastarel zakon o avtorskih pravicah

Če ste umetnik, ki ne želi kloniranja vašega glasu, vam zakon o avtorskih pravicah morda še ne bo mogel pomagati. Ker so bili naši zakoni o avtorskih pravicah napisani v času, ko ta vrsta tehnologije umetne inteligence še ni obstajala, ni presenetljivo, da jih zakoni še vedno poskušajo dohiteti.

Najbližji pravni primer "kraje glasu" v ZDA sega v devetdeseta leta prejšnjega stoletja. Kot poroča Los Angeles Times, pevec Tom Waits je dobil 2,475 milijona dolarjev odškodnine od Frito-Lay Inc., mogočnega velikana čipov, ki stoji za Doritos, Cheetos, Cracker Jack's in drugimi.

V oglasu je bil uporabljen glas nekoga, ki je zvenel dovolj blizu Tomu Waitsu, da bi ljudje lahko verjeli, da za oglaševalsko kampanjo stoji pravi umetnik. Enako bi lahko rekli za deepfake pesmi, ki trenutno krožijo, vendar glasba AI še ni bila preizkušena v pravnem boju.

Medtem ko čakamo na posodobitev pravnega sistema, je treba omeniti, da nimajo vsi težav s tem, da ljudje klonirajo svoj glas, vzemite Holly Herndon, na primer. Soočena s prihajajočo plimo glasbenih aplikacij z umetno inteligenco se je odločila, da pooblasti svojega glasovnega dvojčka Holly+ poleg sistema, ki ji je dal pošteno plačilo.

Na katero koli stran se postavite, problem ostaja enak. Ni posebnega zakona o avtorskih pravicah, ki pravi, da morate pridobiti dovoljenje izvajalca, preden uporabite njegov glas. Do takrat se lahko umetniki znajdejo na divjem zahodu tehnologije umetne inteligence, brez zakonov, ki bi jih vodili.

3. Kdo prejme plačilo?

Ali je v redu služiti z glasbo z uporabo glasu nekoga? To je kočljivo vprašanje, ki bi lahko postalo večja težava, saj je več ponarejene glasbe objavljeno na pretočnih platformah in monetizirano na platformah družbenih medijev.

Kot vsi vemo, je v redu, če zapojete priredbo znane pesmi in jo objavite na YouTubu ali Spotifyju, in v tem primeru stvari, kot so besedilo, struktura pesmi, melodija, ritem itd. so kopirani. Toda vokalni kloni so precej drugačni in deepfake glasba ni ravno rifanje obstoječe pesmi, ampak ustvarjanje popolnoma nove pesmi z uporabo glasu nekoga drugega.

Povedano drugače, glasovnih klonov ne bi bilo, če ne bi bilo orodij AI in nepooblaščenih naborov podatkov. Umetniki celo življenje brusijo glas, s katerim so se rodili, in oblikujejo edinstven zvok. Ukrasti nekomu glas in s tem služiti denar, je morda korak predaleč.

4. Žanr sive cone

Da bi stvari zakomplicirali, nekateri ljudje morda ne gledajo na deepfake glasbo kot na povsem slabo. V nasprotju s slikami ali videoposnetki deepfake, ki se jim lahko na kratko nasmejite, preden se pomaknete mimo na telefonu, se glasba deepfake razvija v smeri svojega žanra.

Nekateri ljudje to primerjajo z idejo o pisanju oboževalcev, zabavnim in ustvarjalnim načinom poklona umetniku. To je bolj pozitiven pogled, zaradi katerega je težko izključiti deepfake glasbo kot preprosto tabu. Oglejte si pristop Holly Herndon k kloniranju glasu z umetno inteligenco v spodnjem videu.

Čeprav se vsi ne strinjajo, da bi morala biti ta vrsta glasbe dovoljena. Kot Piše Financial Times, glavna snemalna založba, Universal Music Group, je želela odstraniti pesmi nižje kakovosti s pretočnih platform, vključno s tistimi, ki jih je ustvarila umetna inteligenca. Sčasoma se bodo morale pretočne platforme, kot so Spotify, Apple Music ali Tidal, odločiti, ali je ta zvrst glasbe dovoljena na njihovi platformi.

Deepfake glasba sproža podobne razprave, ki se že dogajajo v svetu umetnosti: bi morala umetnost, ki jo ustvari umetna inteligenca, obravnavati kot umetnost? Samo zdaj se sprašujemo o glasbi AI.

5. Etični pomisleki glede rase in identitete

Obdobje glasbe deepfake se je začelo z veliko glasbe, ki posnema rap. Z zgodovinskimi koreninami žanra segajo nazaj v afroameriško mladino, ki je odraščala v Bronxu v New Yorku v zgodnjih sedemdesetih letih prejšnjega stoletja, nekatere ljudi skrbita rasa in identiteta v glasbi z umetno inteligenco.

Pisatelj Lauren Chanel, je ena oseba, ki meni, da je deepfake glasba resen problem. Kot je navedeno v an članek New York Timesa, pojasnjujejo:

»To je še en način, da ljudje, ki niso temnopolti, oblečejo kostum temnopoltega – dvignejo roke Kanyeja ali Drakea in ga naredijo za lutko – in to je zaskrbljujoče zame." »To je le še en primer v dolgi vrsti ljudi, ki podcenjujejo, kaj je potrebno za ustvarjanje vrste umetnosti, ki je zgodovinsko gledano temnopolte narediti."

To ni prvič, da glasba, ustvarjena z orodji AI, ni bila etična. Kot poročala revija Rolling Stone, reper virtualnega avatarja z imenom FN Meka je podpisal pogodbo z založbo, nato pa je hitro zapustil spletno civilno skupina za pravice Industry Blackout je zapisala, da projekt ohranja "grobe stereotipe" o Backu kultura.

Če kaj drugega, nas deepfake music opominja, da orodij umetne inteligence ni mogoče ločiti od zgodovine ustvarjanja glasbe, ignoriranje tega pa prispeva k nevarnosti globokih ponaredkov AI.

6. Povzročanje škode umetnikom

Ena stvar, ki je ne smemo spregledati, je čustveni učinek, ki bi ga lahko imela deepfake pesem na izvajalca, še posebej, če je glasovni klon lahko pojejo o situacijah, ki se nikoli niso zgodile, izražajo čustva, ki niso njihova lastna, in se pretvarjajo, da jim je mar za stvari, ki jih morda ne.

V primeru lažne pesmi Drake ft. The Weeknd, besedilo je vsebovalo vrstice o Seleni Gomez, ki je hodila z The Weekndom. Z uporabo mešanice dejstev iz resničnega življenja in izmišljenih besedil je šlo za nenavadno izkrivljanje resničnosti, ki bi lahko škodovalo umetniku, ki je preživel resnično izkušnjo.

Podobno, ustvarjanje besedil, ustvarjenih z umetno inteligenco "v slogu" nekoga slavnega, ki uporablja generatorje besedila AI, je nekatere umetnike privedel do obupa nad uporabo tehnologije AI. Kot pravi Nick Cave, "Kar je ChatGPT, je v tem primeru podvajanje kot travestija."

Deepfake glasba je sposobna umetniku v usta položiti besede, ki jih ni nikoli spregovoril ali v tem primeru zapel. Na osebni ravni je to lahko škodljivo za umetnika, ki ima malo nadzora nad odstranitvijo vsebine, ne da bi se boril pred sodiščem.

Priprava na spremembe v glasbeni industriji

Zahvaljujoč vse večjemu dostopu do orodij AI je glasba vstopila v svet globokih ponaredkov, zlasti prek glasovnih klonov. Razlikovanje med glasom umetne inteligence in človeškim glasom samo s poslušanjem je izjemno težko, zato pesem deepfake zlahka doseže pretočne platforme, preden jo odstranijo.

Po eni strani lahko oboževalci uživajo v glasbi deepfake in lahko se pojavi veljaven žanr, ki uporablja znane glasove za ustvarjanje nove in zanimive glasbe. Vendar se vsak izvajalec ne strinja s kloniranjem svojega glasu in ni zakonov, ki bi ljudem preprečili ustvarjanje nepooblaščenih podatkovnih nizov.

Pridobivanje soglasja, nadomestila umetnikom in preučevanje etičnih pomislekov je le nekaj težav, s katerimi se soočajo umetniki in glasbena industrija. Zaradi hitrega razvoja tehnologije umetne inteligence se je vredno ustaviti in razmisliti o težavah, ki jih je povzročila.