6 stora problem med Deepfake Music

Nya låtar av kända artister blir virala på sociala medier, vilket normalt sett inte är ett problem, förutom när det är en röstklon som sjunger. Även om det var ett av de sista medierna som höll ut, är deepfake-musik nu verklighet.

Det fungerar genom att träna en AI-modell på en sångares röst, och resultaten är inte alltid dåliga. Det finns massor av verklig kreativitet i att skapa deepfake-låtar, men problemet ligger inte bara i produktionen. I många fall beviljas inte tillstånd, och frågor om vem som får betalt och om det är etiskt är bara några av problemen med deepfake-musik.

1. Obehöriga datamängder

Om du vill skapa ett deepfake-spår av en berömd artist måste du samla ljudfiler med deras sångröst i en datauppsättning. Ungefär som all data som tillhör någon, bör du förmodligen få deras tillåtelse att använda den, men en deepfake låt kan komma till en stor musikplattform som YouTube, Spotify eller TikTok, efter att ha använt en obehörig dataset.

Detta hände artisterna Drake och The Weeknd när en användare som heter Ghostwriter skapade "Heart on My Sleeve". Hitlåten innehöll artisternas AI-syntetiserade röster, komplett med texter om The Weeknds ex-flickvän.

Låten gillade verkligen av fansen, med ytterligare beröm till Ghostwriter för den kreativa användningen av deepfake-sången, men som Det rapporterade Seattle Times, alla såg det inte så. En talesperson från Universal Music Group, det stora bolaget bakom båda artisterna, frågar:

"Vilken sida av historien vill intressenter i musikens ekosystem vara på: artisternas, fansens och mänskliga kreativa uttryck, eller på sidan av djupa förfalskningar, bedrägerier och att neka artister deras vederbörliga kompensation?"

2. Föråldrad upphovsrättslagstiftning

Om du är en artist som inte vill att din röst ska klonas kanske upphovsrättslagen inte kan hjälpa dig ännu. Eftersom våra upphovsrättslagar skrevs vid en tidpunkt då den här typen av AI-teknik inte fanns, är det ingen överraskning att lagarna fortfarande försöker komma ikapp.

Det närmaste rättsfallet av "röststöld" i USA går tillbaka till 1990-talet. Som rapporterat av Los Angeles Times, vann sångaren Tom Waits 2,475 miljoner dollar i skadestånd från Frito-Lay Inc., den mäktiga chipjätten bakom Doritos, Cheetos, Cracker Jack's med flera.

Annonsen använde rösten från någon som lät tillräckligt nära Tom Waits för att folk skulle kunna tro att den riktiga artisten låg bakom reklamkampanjen. Detsamma kan sägas om deepfake-låtar som för närvarande cirkulerar, men AI-musik har ännu inte testats i en juridisk kamp.

Medan vi väntar på att rättssystemet ska uppdateras är det värt att notera att inte alla har problem med att människor klona sin röst, ta Holly Herndon, till exempel. Inför den kommande vågen av AI-musikapplikationer valde hon att auktorisera sin sångtvilling som heter Holly+ tillsammans med ett system som gav henne skälig ersättning.

Vilken sida du än tar så förblir problemet detsamma. Det finns ingen specifik lag om upphovsrätt som säger att du måste få tillstånd från artisten innan du använder deras röst. Tills dess kan artister befinna sig i AI-teknikens vilda västern, utan några lagar som vägleder dem.

3. Vem får betalt?

Är det okej att tjäna pengar på musik med någons röst? Det är en svår fråga som kan bli ett större problem eftersom mer djupfalsk musik publiceras på strömmande plattformar och tjäna pengar på sociala medieplattformar.

Som vi alla vet är det okej att sjunga en cover på en känd låt och lägga upp den på YouTube eller Spotify, och i så fall saker som texten, låtstrukturen, melodin, rytmen osv. är kopierade. Men sångkloner är ganska olika, och deepfake musik är inte precis att riffa på en befintlig låt, utan att skapa en helt ny låt med någon annans röst.

Med andra ord, röstkloner skulle inte existera om det inte vore för AI-verktyg och obehöriga datamängder. Artister ägnar en livstid åt att finslipa rösten de föddes med och skapa ett unikt ljud. Att stjäla någons röst och tjäna pengar på det kan vara ett steg för långt.

4. En gråzonsgenre

För att komplicera saker och ting kanske vissa människor inte ser deepfake-musik som helt dålig. Till skillnad från djupfalska bilder eller videor som du kanske skratta åt kort innan du bläddrar förbi på din telefon, bygger djupfalsk musik mot en egen genre.

Vissa människor jämför det med tanken på att skriva fanfiction, ett roligt och kreativt sätt att hylla en artist. Det är en mer positiv syn som gör det svårt att utesluta deepfake musik som helt enkelt tabu. Ta bara en titt på Holly Herndons inställning till AI-röstkloning i videon nedan.

Fast alla håller inte med om att den här typen av musik ska tillåtas. Som Det skriver Financial Times, det stora skivbolaget Universal Music Group, hade som mål att få låtar av lägre kvalitet borttagna från streamingplattformar, inklusive de som skapats av AI. Så småningom kommer streamingplattformar som Spotify, Apple Music eller Tidal att behöva ta ett beslut om huruvida denna musikgenre är tillåten på sin plattform.

Deepfake musik sätter igång liknande debatter som redan pågår i konstvärlden: ska AI-genererad konst betraktas som konst? Först nu ifrågasätter vi AI-musik.

5. Etiska bekymmer kring ras och identitet

Eran av deepfake-musik har börjat med mycket musik som efterliknar rapmusik. Med genrens historiska rötter som går tillbaka till afroamerikansk ungdom som växte upp i Bronx, New York City, i början av 1970-talet, är vissa människor oroade över ras och identitet i AI-musik.

Författare Lauren Chanel, är en person som tycker att deepfake musik är ett allvarligt problem. Som citerat i en artikel av New York Times, förklarar de:

"Det är ett annat sätt för människor som inte är svarta att sätta på sig en svart persons kostym - att räcka upp händerna på Kanye eller Drake och göra honom till en docka - och det är skrämmande för mig." "Detta är bara ytterligare ett exempel i en lång rad människor som underskattar vad som krävs för att skapa den typ av konst som historiskt sett svarta människor göra."

Det är inte första gången som musik skapad med AI-verktyg har misslyckats med att vara etisk. Som rapporterade i tidningen Rolling Stone, en virtuell avatar-rappare vid namn FN Meka signerades till ett bolag, som sedan snabbt hoppade av när online civil rättighetsgruppen Industry Blackout skrev att projektet vidmakthåller "grova stereotyper" om Back kultur.

Om något, djupfalsk musik påminner oss om att AI-verktyg inte kan separeras från musikskapandets historia, och att ignorera det bidrar till farorna med AI deepfakes.

6. Orsakar skada på artister

En sak som inte bör förbises är den känslomässiga inverkan en deepfake-låt kan ha på artisten, speciellt när en röstklon kan sjunga om situationer som aldrig hänt, uttrycka känslor som inte är deras egna och låtsas bry sig om saker som de kanske inte.

När det gäller den falska Drake-låten ft. The Weeknd, texterna inkluderade rader om Selena Gomez som brukade dejta The Weeknd. Med en blandning av verkliga fakta och påhittade texter var det en konstig förvrängning av verkligheten som kunde vara skadlig för artisten som upplevde den verkliga upplevelsen.

Liknande, producera AI-genererade sångtexter "i stil med" någon känd som använder AI-textgeneratorer har fått vissa artister att misströsta över användningen av AI-teknik. Som Nick Cave uttrycker det, "Vad ChatGPT är i det här fallet är replikering som travesti."

Deepfake musik är kapabel att lägga ord i munnen på artisten som de aldrig talade, eller i det här fallet, sjungit. På ett personligt plan kan detta vara skadligt för artisten som har liten kontroll över att ta bort innehållet, utan att ta kampen till domstol.

Förberedelser för förändringar i musikbranschen

Tack vare den växande tillgången till AI-verktyg har musik kommit in i världen av deepfakes, i synnerhet genom röstkloner. Att säga skillnaden mellan en AI-röst och en mänsklig röst bara genom att lyssna är extremt svårt, vilket gör det enkelt för en djupfalsk låt att nå streamingplattformar innan den tas bort.

Å ena sidan kan fans njuta av deepfake musik och en giltig genre kan dyka upp som använder kända röster för att skapa ny och intressant musik. Men inte alla artister håller med om att få sin röst klonad, och det finns inga lagar som hindrar människor från att skapa obehöriga datauppsättningar.

Att få samtycke, kompensera artister och undersöka etiska problem är bara några problem som artister och musikindustrin möter. Med den snabba utvecklingen av AI-teknik är det värt att ta en paus för att reflektera över de problem de har skapat.