OpenAI tvinges til å stanse kjendis-kloner i ny videoapp

I dag melder OpenAI at selskapet strammer inn reglene for sin nye videoapp Sora, etter at skuespiller Bryan Cranston – kjent fra Breaking Bad – oppdaget at AI-genererte videoer av ham spredte seg på nettet.

Cranston varslet fagforeningen SAG-AFTRA, som representerer film- og TV-arbeidere, da han så flere videoer laget med appen – videoer han aldri hadde spilt inn. Nå har forbundet inngått en avtale med OpenAI og flere talentbyråer for å sikre at kjendiser må gi samtykke før deres stemme eller ansikt brukes i AI-generert video.

Deepfakes skaper kaos på nettet

OpenAIs nye app Sora har på bare tre uker blitt en snakkis på internett. Appen lar brukere lage realistiske videoer ved hjelp av tekst, men systemet har også vært misbrukt til å lage falske klipp av kjendiser – alt fra Taylor Swift på scenen til Martin Luther King Jr. i uverdige og manipulerte situasjoner.

OpenAI innrømmer at «vaktbøylene» som skal hindre slike deepfakes, ikke fungerer godt nok, og sier i en uttalelse at de har «forsterket beskyttelsen mot uautorisert bruk av stemmer og ansikter».

Selskapet beklager også at Cranston og andre ble rammet av det de omtaler som «utilsiktede genereringer».

Kjendiser krever kontroll over sitt eget ansikt

I en tid der AI-verktøy kan lage realistiske videoer på minutter, vokser frykten for at hvem som helst kan misbruke et kjent ansikt. Også Martin Luther Kings datter, Bernice King, har bedt folk slutte å dele AI-videoer av faren. Hun omtaler dem som «respektløse og skadelige».

OpenAI sier nå at offentlige personer og deres familier skal kunne bestemme selv hvordan deres likhet brukes, og at representanter kan kreve at visse personer ikke blir tilgjengelige i Sora.

Et globalt problem – også for nordmenn

Eksperter advarer om at deepfakes ikke bare rammer kjendiser. Nordmenn har allerede opplevd at bilder og stemmer misbrukes i falske annonser og svindelfilmer. Etter hvert som videoverktøy som Sora blir mer tilgjengelige, øker risikoen for at også vanlige mennesker kan bli “kopiert” digitalt.

Kampen mellom teknologi og opphavsrett har dermed blitt en av vår tids største kulturkonflikter – og den pågår nå både i Hollywood og på norske skjermer.