Google merker nå alle AI-videoer usynlig: Slik kan du avsløre kunstig innhold med ett klikk

I går, mandag 22. juni, ble Googles nye videogenerator Gemini Omni Flash bredt tilgjengelig. Alle videoer fra modellen får automatisk et innebygd vannmerke kalt SynthID, som er usynlig for det blotte øye, men leselig for Googles egen detektor.

Vannmerket settes inn i selve videoen i det øyeblikket den blir laget. Google DeepMind har konstruert det slik at det skal overleve vanlig redigering, inkludert beskjæring, filtre, endring av bilderate og komprimering. Det betyr at klippet kan deles på sosiale medier og kjøres gjennom flere kompresjonsledd uten at sporet forsvinner.

Slik sjekker du om en video er kunstig

Verifiseringen skjer via en gratis portal Google kaller SynthID Detector. Brukere kan laste opp en video, et bilde, en lydfil eller et tekstutdrag, og portalen returnerer en sannsynlighet for om innholdet bærer Googles vannmerke. For lyd og bilder peker verktøyet ut hvilke deler av filen som ser ut til å være AI-generert.

Tjenesten er foreløpig i en tidlig fase. Journalister, mediefolk og forskere får tilgang først, mens andre kan sette seg på en venteliste.

Hvorfor det betyr noe nå

AI-genererte videoer brukes i økende grad i svindelforsøk og desinformasjon, og det er nesten umulig å se forskjell på ekte og kunstig opptak med det blotte øye. For en redaksjon eller en privatperson som lurer på om en video er manipulert, gir detektoren et raskt førstesvar uten teknisk kompetanse eller egne verktøy.

Gemini Omni Flash lager klipp på inntil 10 sekunder ut fra tekst, bilder eller lyd, og kan blant annet generere en personlig avatar som ligner og høres ut som brukeren selv. Modellen ble presentert av Google-sjef Sundar Pichai på utviklerkonferansen Google I/O i mai. For å bruke verktøyet kreves et abonnement på Google AI Plus, Pro eller Ultra, og brukerne må være minst 18 år.

I EØS, Storbritannia, Sveits og enkelte amerikanske delstater er funksjonen for å redigere allerede opplastede videoer foreløpig blokkert. Begrensningen er knyttet til strengere AI-regulering og personvernregler.

SynthID brer seg utenfor Google

SynthID er ikke lenger et rent Google-prosjekt. På I/O ble det kjent at OpenAI, Kakao og ElevenLabs også tar teknologien i bruk. OpenAI starter med bilder generert via ChatGPT, Codex og selskapets API. Mer enn ti milliarder innholdselementer er allerede merket med SynthID, ifølge Google.

For nordmenn betyr det at en stadig større andel av kunstig innhold på nett kan spores tilbake til en kjent kilde. Et klipp som dukker opp i en nyhetssak eller på en sosial plattform, kan i prinsippet kjøres gjennom detektoren mens man venter på offisiell verifisering.

Begrensningene man bør kjenne til

SynthID fanger bare innhold som er laget med verktøy som har bygget inn vannmerket. Videoer fra modeller som ikke deltar i ordningen, slipper fortsatt gjennom uten flagg. Selv om vannmerket er robust mot vanlig redigering, har Google aldri lovet at det er umulig å fjerne det dersom noen jobber målrettet med saken.

Detektoren er dermed et nyttig verktøy, ikke en sikker fasit. Den fungerer best som ett av flere kontrolltrinn i en hverdag der det blir stadig vanskeligere å vite hva som faktisk har skjedd foran et kamera, og hva som er regnet ut av en datamaskin.