Brasil krever at Elon Musks X fjerner AI-manipulerte bilder fra Grok

Brasilianske myndigheter har beordret den sosiale medieplattformen X til umiddelbart å blokkere bestemte AI-genererte bilder laget via chatboten Grok. Avgjørelsen kom etter at manipulert bildemateriale ble delt på plattformen og vurdert som et brudd på personvern og individuelle rettigheter.

Saken setter søkelys på den økende utfordringen med deepfakes og ansvaret teknologiselskaper har for innhold som spres via deres tjenester. Myndighetene understreker at plattformer må reagere raskt når kunstig intelligens brukes til å produsere og distribuere krenkende materiale.

Domstol krever umiddelbar handling

En brasiliansk dommer har pålagt X å hindre videre spredning av de aktuelle bildene. Ordren retter seg spesifikt mot innhold generert gjennom Grok, AI-verktøyet som er integrert i plattformen eid av Elon Musk.

Ifølge avgjørelsen må selskapet innføre tekniske tiltak for å blokkere tilgang og videre deling. Manglende etterlevelse kan føre til økonomiske sanksjoner.

Deepfakes og regulatorisk ansvar

Deepfakes er digitalt manipulert innhold skapt ved hjelp av kunstig intelligens, ofte med høy grad av realisme. Den raske utviklingen av teknologien har skapt nye juridiske utfordringer knyttet til ansvar og regulering.

Brasilianske myndigheter har de siste årene strammet inn reguleringen av digitale plattformer og stilt tydeligere krav til moderering. Denne saken inngår i en bredere innsats for å begrense misbruk av AI-verktøy.

Økt press på globale plattformer

Avgjørelsen legger ytterligere press på X og andre teknologiselskaper som integrerer generativ AI i sine tjenester. Kombinasjonen av åpne plattformer og avanserte AI-verktøy øker risikoen for rask spredning av manipulert innhold.

Hvordan X håndterer kravet fra Brasil kan få betydning for fremtidig regulering av Grok og tilsvarende løsninger internasjonalt.

Kilder: Vanguard