ChatGPT-tekst merkes med usynlig kode for EU: Slik vil teknologien avsløre at noen har brukt AI

Lanseringen ble annonsert mandag 5. oktober, og i løpet av de kommende ukene vil alle ChatGPT- og Codex-brukere i EU, uansett abonnement, få tekstene sine merket automatisk. Vannmerket er ikke en synlig signatur, men et statistisk fingeravtrykk bakt inn i selve ordvalgene modellen gjør.

Teknikken heter textGrain og fungerer ved å subtilt forme modellens ordvalg slik at det oppstår et mønster leseren ikke kan se, men som en detektor plukker opp. Siden merket ligger i selve ordene, følger det med når teksten kopieres og limes inn et annet sted.

Slik ser treffsikkerheten ut

Tester fra OpenAIs egen tekniske rapport viser at jo lengre tekst, jo lettere er det å avsløre AI-forfatteren. I passasjer på rundt 400 token, altså noen hundre ord, treffer detektoren i om lag 95 prosent av tilfellene, mens kortere tekster på rundt 200 token gir cirka 80 prosent.

Problemet melder seg når teksten endres. Byttes bare 10 prosent av ordene ut med synonymer, faller treffraten fra 92 til 66 prosent, og ved å erstatte 25 prosent av ordene er detektoren nede på 17 prosent. Oversettelser svekker signalet ytterligere: Spansk tekst gir rundt 69 prosent, mens rumensk ligger på 42 prosent.

Les også: BYD Tang tredje generasjon avduket: 850 km rekkevidde og lynlading på fem minutter

I praksis betyr det at en elev eller ansatt som ber ChatGPT skrive utkastet og deretter redigerer det grundig, kan vaske bort det meste av merket før en lærer eller sjef får sjansen til å kjøre teksten gjennom en detektor.

Dette tvinger EU-forordningen frem

Vannmerkingen er et direkte svar på EUs AI-forordning. Transparensreglene i artikkel 50 begynte å gjelde 2. august og krever at AI-generert innhold merkes i et maskinlesbart format. Tilbydere som ikke følger reglene, risikerer bøter på opptil 15 millioner euro (cirka 170 millioner kroner) eller 3 prosent av global omsetning.

Selve detektoren er heller ikke tilgjengelig for alle. OpenAI gir foreløpig bare adgang til utvalgte eksterne partnere som skal teste og evaluere verktøyet, blant dem forskere ved Cornell, ETH Zürich og slovakiske KInIT. OpenAI begrunner det med at svakhetene i teknologien gjør bred utrulling av verktøyet uforsvarlig akkurat nå.

Konkurrenten Anthropic valgte en annen linje og rullet i august ut sitt eget vannmerke globalt for alle Claude-brukere. OpenAI holder seg til EU-territoriet for forbrukerproduktene, og for API-et er funksjonen globalt satt til av som standard, slik at utviklere selv må skru den på.

Les også: Volkswagen avduker første elektriske GTI i historien: 431 km rekkevidde og forhåndsbestillinger åpnet

Norge må vente

For norske brukere endrer ingenting seg akkurat nå. OpenAI har bekreftet overfor Tek.no at vannmerket ikke rulles ut i Norge ved lansering, fordi EUs AI-forordning ennå ikke er tatt inn i norsk lov via EØS-avtalen.

Regjeringen tar sikte på å legge frem en lovproposisjon om norsk KI-lov våren 2027. Frem til det er på plass, kommer tekst skrevet av ChatGPT på norske kontoer uten det usynlige merket.

Les også: Navnet og adressen din dukker opp i Google-søk: Slik får du det fjernet på under ti minutter