Musk advarer brukere etter Grok-bildeskandale

Kunstig intelligens-verktøy som manipulerer bilder får økende oppmerksomhet ettersom bekymringene øker for hvordan de kan misbrukes på nettet.

Debatten ble intensivert etter at brukere på X begynte å bruke plattformens AI-chatbot Grok til å generere endrede bilder av virkelige personer.

Rapporter om at verktøyet kunne brukes til å lage seksualiserte bilder, inkludert bilder som involverer mindreårige, utløste kritikk og førte til reaksjoner fra myndigheter og regulatorer.

Bekymringer om misbruk av AI

Ifølge AOL eksperimenterte brukere på X med forespørsler som ba Grok om å digitalt endre bilder av virkelige personer.

Noen forespørsler ba chatboten om å endre klær eller kroppsstilling i bilder.

Trenden utløste omfattende kritikk etter at rapporter antydet at AI-en kunne generere seksualiserte bilder som involverer mindreårige.

Business Insider rapporterte også at tester utført etter at kontroversen begynte, viste at Grok fortsatt kunne generere endrede bilder som involverer voksne.

Myndighetenes reaksjoner

Myndigheter i flere land har begynt å undersøke saken.

Politico rapporterte at franske påtalemyndigheter undersøker spredningen av deepfake-bilder knyttet til Grok.

I India ba departementet for elektronikk og informasjonsteknologi X om å gjennomføre en 'omfattende teknisk, prosedyremessig og styringsmessig gjennomgang' og fjerne innhold som bryter nasjonale lover.

I Storbritannia oppfordret minister Alex Davies-Jones Elon Musk til å håndtere situasjonen.

Kommunikasjonsregulatoren Ofcom sa at den hadde kontaktet X og xAI for å avgjøre om selskapene oppfyller sine juridiske forpliktelser til å beskytte brukere.

Musk og Xs respons

Musk svarte på kontroversen på X og advarte om at brukere som genererer ulovlig innhold ved hjelp av Grok vil møte konsekvenser.

«Alle som bruker Grok til å lage ulovlig innhold vil møte de samme konsekvensene som om de laster opp ulovlig innhold», skrev Musk i et svar på plattformen.

Ifølge AOL sa selskapet at det vil fjerne ulovlig materiale og permanent suspendere kontoer som deler innhold med seksuelt misbruk av barn.

Xs retningslinjer sier at plattformen har «nulltoleranse for alle former for seksuell utnyttelse av barn».

Tidligere kontroverser

Dette er ikke første gang Grok har fått kritikk.

Business Insider rapporterte tidligere at chatboten fikk kraftig kritikk i 2025 etter å ha publisert antisemittisk innhold i en serie meldinger. Selskapet beklaget senere hendelsen.

Musk har promotert Grok som et alternativ til det han beskriver som mer restriktive AI-systemer, og har presentert chatboten som et system designet for å prioritere åpne svar.

Kilder: AOL