Apple truer med å fjerne Musks Grok-app i deepfake-strid

Apple grep inn etter rapporter om at Elon Musks AI-verktøy Grok ble brukt til å lage eksplisitte falske bilder av virkelige personer, noe som skaper nye bekymringer om hvor raskt slik teknologi kan misbrukes.

Hendelsen understreker økende press på teknologiplattformer og appbutikker for å reagere etter hvert som AI-generert innhold sprer seg raskere enn sikkerhetstiltakene klarer å følge med.

Brukerskade først

Kontroversen tiltok etter at det dukket opp tilfeller der personer ble utsatt for manipulerte bilder.

Ifølge The Independent opplyste en 22 år gammel kvinne at hun ble rammet av mer enn 100 redigerte bilder av seg selv i løpet av få dager, inkludert ett der hun var digitalt avkledd.

Rapporter sitert av AOL opplyser at enkelte bilder var seksualiserte og angivelig laget uten samtykke, samtidig som det også ble uttrykt bekymring for at mindreårige kan ha vært avbildet.

Apple griper inn

Etter klager og medieomtale tok Apple kontakt med teamene bak X og Grok, ifølge et brev sett av AOL.

Lovgivere i USA hadde også oppfordret Apple og Google til å handle, noe som økte det politiske presset.

Apple uttrykte bekymring for at appens håndtering av innhold ikke oppfylte App Store-reglene, som begrenser støtende eller skadelig materiale.

Konflikt i app-godkjenning

En oppdatert versjon av Grok ble først avvist under Apples gjennomgangsprosess.

«Som et resultat av dette avviste vi Grok-innsendelsen og informerte utvikleren om at ytterligere endringer måtte gjøres for å rette opp bruddet, ellers kunne appen bli fjernet fra App Store,» het det i meldingen.

Etter ytterligere endringer ble en revidert versjon senere godkjent, mens X fortsatt var tilgjengelig til tross for at samme AI-teknologi var integrert.

Større bilde

Deepfakes har blitt et økende fokusområde for regulatorer, ettersom myndigheter i økende grad undersøker hvordan AI-verktøy kan brukes til å lage villedende eller skadelig innhold.

X opplyste at det har innført begrensninger, og sier at det forbyr «brukere å generere ikke-samtykkebaserte eksplisitte deepfakes og å bruke våre verktøy til å kle av virkelige personer digitalt».

Saken viser hvordan plattformer, utviklere og appbutikker alle blir trukket inn i utfordringen med å regulere raskt utviklende AI-teknologi.

Kilder: AOL, The Independent, NBC News, The Verge