USA stenger tilgang til nytt KI-system: Millioner kan bli rammet

Beslutningen rammer KI-selskapet Anthropic, en av OpenAIs største konkurrenter, og gjelder selskapets nyeste modeller, Fable 5 og Mythos 5.

Utlendinger nektes tilgang

Ifølge Anthropic har amerikanske myndigheter beordret selskapet til å sperre tilgangen til de to KI-modellene for alle utenlandske brukere.

Tiltaket skal også gjelde utlendinger som oppholder seg i USA, inkludert ansatte i Anthropic.

Selskapet opplyser at tilgangen midlertidig måtte stenges for alle brukere mens de nye restriksjonene ble innført.

Bakgrunnen skal være opplysninger om en mulig metode for å omgå sikkerhetsmekanismene i programvaren.

Les også: Facebook får AI-søk i USA, Norge må vente på Metas svar-maskin

KI-en skal kunne finne skjulte sikkerhetshull

Særlig modellen Mythos 5 har vakt oppsikt på grunn av sine avanserte evner innen cybersikkerhet.

Systemet skal kunne identifisere programvarefeil og sikkerhetshull som i enkelte tilfeller har eksistert i flere tiår uten å bli oppdaget.

Teknologien har tidligere blitt brukt av amerikanske myndigheter og utvalgte selskaper for å styrke datasikkerheten.

Samtidig har eksperter advart om at slike verktøy også kan misbrukes dersom de havner i feil hender.

Anthropic stiller spørsmål ved avgjørelsen

Anthropic mener selv at myndighetenes reaksjon er overdreven.

Selskapet opplyser at de har undersøkt rapporten som trolig ligger til grunn for avgjørelsen, og konkludert med at den beskriver en begrenset metode for å få KI-en til å analysere kode og rette feil.

Ifølge Anthropic finnes tilsvarende funksjonalitet også i modeller fra andre selskaper.

Selskapet mener derfor det er vanskelig å forsvare at en teknologi som brukes av hundrevis av millioner mennesker skal begrenses på dette grunnlaget.

Kommer midt i konflikt med myndighetene

Saken er ekstra bemerkelsesverdig fordi Anthropics toppsjef Dario Amodei nylig tok til orde for at myndighetene burde kunne gripe inn mot KI-systemer som utgjør en reell sikkerhetsrisiko. Det skriver chip.

Samtidig har selskapet de siste månedene vært i konflikt med amerikanske myndigheter etter at det motsatte seg bruk av KI-modellene i autonome våpensystemer og omfattende overvåking.

Dette førte blant annet til at Pentagon klassifiserte Anthropic som en mulig risiko i offentlige leverandørkjeder.

Kan bli en viktig test for KI-bransjen

Avgjørelsen kan få betydning langt utover Anthropic.

Flere eksperter mener saken kan bli et tidlig eksempel på hvordan myndigheter vil forsøke å regulere stadig kraftigere KI-systemer i årene som kommer.

Spørsmålet er om dette er starten på strengere kontroll av kunstig intelligens, eller om myndighetene har gått for langt i sin første store inngripen mot et moderne KI-system.

Les også: Denne feilen kan ødelegge TVen din før VM-kampen