Mystisk KI-stans skaper uro: USA frykter at Kina kan ha fått tilgang til topphemmelig modell

Nå tyder nye opplysninger på at amerikanske myndigheter frykter at kinesiske aktører kan ha fått tilgang til teknologien bak Anthropics kraftigste systemer.

Trakk tilbake to av de mest avanserte modellene

I helgen stengte Anthropic plutselig tilgangen til språkmodellene Fable 5 og Mythos 5 etter pålegg fra amerikanske myndigheter.

Beslutningen vakte stor oppsikt i KI-miljøet, særlig fordi Fable 5 bare hadde vært tilgjengelig i kort tid før tilgangen ble fjernet.

Nå hevder flere medier at mistanke om kinesisk innblanding kan ha vært en viktig årsak til den dramatiske beslutningen.

Frykter kinesisk tilgang

Ifølge opplysninger omtalt av både Semafor og The Verge skal Det hvite hus ha mottatt informasjon som antyder at personer med tilknytning til Kina kan ha fått tilgang til Mythos 5.

Les også: Slett disse appene nå: Android-skadevaren overlever til og med fabrikknullstilling

Dersom opplysningene stemmer, kan det representere en alvorlig sikkerhetsutfordring for USA.

Verken Det hvite hus eller amerikanske myndigheter har foreløpig bekreftet detaljene offentlig.

Beskrevet som for kraftig for offentligheten

Anthropic har selv omtalt Mythos som en modell som er så avansert at den ikke bør gjøres fritt tilgjengelig.

Selskapet har tidligere advart om at teknologien har svært sterke evner innen programmering, cybersikkerhet og analyse av datasystemer.

Ifølge interne beskrivelser deler Fable 5 og Mythos 5 mange av de samme egenskapene. Forskjellen er at Fable 5 har flere innebygde sikkerhetsbegrensninger, mens Mythos 5 i større grad er en fullversjon beregnet på utvalgte kunder og myndigheter.

Frykter kopiering av teknologien

En av bekymringene skal være at avanserte KI-modeller kan kopieres gjennom en metode kjent som destillering.

Prinsippet går ut på at en mindre modell trenes opp ved å studere svarene fra en langt kraftigere modell, slik at deler av kunnskapen og oppførselen kan gjenskapes.

Amerikanske myndigheter har de siste årene blitt stadig mer bekymret for at kinesiske selskaper kan bruke slike metoder for å hente inn forspranget til amerikanske KI-aktører.

Anthropic avviser alvorlige sikkerhetshull

Samtidig mener Anthropic at grunnlaget for nedstengningen kan være overdrevet.

Selskapet sier de har undersøkt den påståtte sårbarheten som skal ha utløst bekymringen, og konkludert med at den er begrenset og allerede kjent.

Ifølge Anthropic finnes lignende svakheter også i flere andre moderne KI-modeller.

Eksperter advarer om ny type trussel

Det som gjør saken spesielt alvorlig, er modellenes evne til å håndtere avanserte cybersikkerhetsoppgaver.

Tidligere tester har vist at systemene kan identifisere og utnytte sårbarheter i datasystemer på et nivå som få andre KI-modeller har vært i nærheten av.

Eksperter beskriver dette som et betydelig sprang innen digital sikkerhet, men også som en potensiell risiko dersom teknologien misbrukes. Det skriver tek.no.

Midt i konflikt med Trump-administrasjonen

Saken kommer samtidig som forholdet mellom Anthropic og amerikanske myndigheter er anstrengt.

Selskapet har havnet i konflikt med Trump-administrasjonen etter uenighet om hvordan kunstig intelligens skal brukes innen forsvar og sikkerhet.

Anthropic har blant annet motsatt seg at teknologien brukes i autonome våpensystemer og omfattende overvåking.

Det har ført til juridiske konflikter og uvanlig sterke reaksjoner fra amerikanske myndigheter.

Kan få konsekvenser langt utover Anthropic

Den plutselige stengingen av Fable 5 og Mythos 5 viser hvor raskt kunstig intelligens har blitt et spørsmål om geopolitikk og nasjonal sikkerhet.

Mens KI-selskaper kjemper om å utvikle stadig kraftigere modeller, frykter myndigheter at teknologien kan havne i feil hender.

Dersom mistanken om kinesisk tilgang viser seg å stemme, kan saken bli stående som et av de første store sikkerhetsdramaene i den globale KI-kappløpet.

Les også: Facebook får AI-søk i USA, Norge må vente på Metas svar-maskin