Slår alarm om seksuelle deepfakes laget med AI

Britiske myndigheter skjerper nå budskapet om hva som kan skje hvis noen lager seksuelt eksplisitte bilder ved hjelp av kunstig intelligens uten samtykke. Bakgrunnen er kritikk mot X sin AI chatbot Grok, som ifølge flere medier og brukere har blitt brukt til å lage seksualiserte og manipulerte bilder av kvinner og jenter.

Saken har fått ekstra oppmerksomhet fordi funksjonen kan utløses direkte i sosiale medier, ved at brukere tagger @grok i et innlegg for å få en AI generert bildevariant av et opplastet bilde.

Grok anklages for å bli brukt til å «kle av» kvinner og jenter

Ifølge omtalen har enkelte brukere brukt Grok til å lage redigerte bilder der personer blir fremstilt i bikini eller i seksualiserte situasjoner, uten at personen på bildet har gitt samtykke. Det har også kommet påstander om at systemet er blitt brukt til å lage seksualiserte bilder av mindreårige.

Les også: Flere enn du tror kommer til OpenAI med sine helseproblemer

Denne typen bruk regnes som spesielt alvorlig, fordi det kan være vanskelig for ofre å få innholdet fjernet raskt og fordi skaden ofte er varig når materialet først er spredt.

Ofcom etterforsker og regjeringen krever tiltak

Den britiske medietilsynsmyndigheten Ofcom har varslet at de undersøker påstandene. Teknologiminister Liz Kendall sier at ingen skal måtte oppleve å få intime deepfakes av seg selv spredt på nett, og at slike bilder rammer kvinner og jenter uforholdsmessig ofte.

Hun sier at X må håndtere problemet umiddelbart, og at hun støtter at Ofcom kan bruke virkemidler hvis det er nødvendig.

X og Musk advarer om konsekvenser for brukere

X har på sin side uttalt at de fjerner ulovlig innhold, inkludert materiale knyttet til overgrep mot barn, og at de suspenderer kontoer og samarbeider med myndigheter og politi når det er relevant.

Elon Musk har også kommentert saken og sier at brukere som bruker Grok til å lage ulovlig innhold, vil møte de samme konsekvensene som om de hadde lastet opp ulovlig materiale selv.

Grok kontoen på X har i tillegg sagt at det har vært enkelte tilfeller der brukere har fått AI bilder som viser mindreårige i minimal bekledning, og at selskapet har sikkerhetsmekanismer, men jobber med forbedringer for å blokkere slike forespørsler helt.

Dette er ulovlig i Storbritannia

I Storbritannia er det ifølge regjeringen straffbart å lage eksplisitte deepfake bilder av noen uten samtykke. Under den britiske Online Safety Act omtales dette som et lovbrudd, selv om materialet ikke nødvendigvis blir delt offentlig.

Justisdepartementet opplyser at personer som blir dømt kan risikere fengselsstraff på opptil to år, i tillegg til ubegrenset bot og strafferegister. Det skrive ladbible.

Det gjelder også dersom målet bare var å skremme, ydmyke eller påføre personen stress, uten at bildet ble spredt videre. Selve handlingen kan være nok til at det regnes som en straffbar krenkelse.

Eksempler på deepfakes som kan være straffbare

I omtalen trekkes flere typer ulovlig innhold fram som særlig aktuelt når deepfakes brukes i praksis.

Intime bilder og hevnpornografi

Å dele eller true med å dele intime bilder uten samtykke er et alvorlig lovbrudd i Storbritannia. Det gjelder også når bildene er falske eller AI genererte. Dette kan også kobles til trusler, utpressing og stalking.

Seksualisert materiale av mindreårige

Det er ulovlig å lage, dele eller eie seksualiserte bilder, video eller såkalte pseudobilder av personer under 18 år. Det spiller ingen rolle om bildet er ekte eller manipulert med AI.

Svindel og bedrageri

Hvis deepfakes brukes til å lure noen til å gi fra seg penger eller privat informasjon, kan det behandles som svindel.

Hatkriminalitet og trakassering

Å bruke deepfakes til å spre hat eller trakassere noen kan også være straffbart, spesielt hvis det inngår i en kampanje eller gjentatte handlinger som gjør at offeret føler seg truet eller utrygg.

Hva dette betyr i praksis

Myndighetenes budskap er at AI ikke gir noen «frikort». Å lage eller bestille seksualiserte deepfakes kan få alvorlige konsekvenser, både for den som blir utsatt og for den som står bak. Reguleringene er i ferd med å bli strengere, og plattformer får tydeligere ansvar for å stoppe spredning og misbruk.

For vanlige brukere betyr det også at det som kan framstå som en «spøk» eller en rask manipulasjon i sosiale medier, kan være en handling som behandles som et lovbrudd.

Les også: Zuckerbergs AI ble kodet til å flørte med mindreårige