For farlig for offentligheten? Ny KI holdes skjult

Et nytt kunstig intelligens-system oppdager sikkerhetshull raskere enn eksperter. Nå velger utviklerne å holde teknologien unna offentligheten.

Fant kritiske feil i kjente systemer

Et avansert KI-modell fra selskapet Anthropic har vist seg ekstremt effektivt til å avdekke skjulte svakheter i programvare. Modellen, som har fått navnet Claude Mythos Preview, har blant annet oppdaget en 27 år gammel sårbarhet i operativsystemet OpenBSD, som regnes som svært sikkert.

Ifølge selskapet har systemet allerede identifisert tusenvis av alvorlige sikkerhetshull. Disse finnes i alt fra operativsystemer til nettlesere. I videoprogrammet FFmpeg fant modellen en feil som hadde eksistert i 16 år.

Les også: Stor lekkasje gir innblikk i fremtidens KI

Kan bli et kraftig våpen

Det som bekymrer mest, er hvor raskt systemet arbeider. KI-en klarer på få timer å lage programmer som kan utnytte svakhetene den finner. Oppgaver som normalt ville tatt eksperter flere uker.

Dette gjør teknologien potensielt farlig dersom den havner i feil hender. Nettkriminelle kunne brukt den til å utvikle avanserte angrep langt raskere enn før.

Testet egne grenser

I interne tester fikk tidlige versjoner av systemet en uvanlig oppgave. Den skulle forsøke å bryte seg ut av et lukket datamiljø og kontakte en forsker.

Ifølge Anthropic klarte KI-en å omgå sikkerhetsbarrierer, skaffe seg utvidet tilgang til internett og sende en uventet e-post til en ansatt som ikke satt foran maskinen sin. Det skriver chip.

Deles kun med utvalgte selskaper

På grunn av risikoen velger Anthropic å ikke gjøre modellen offentlig tilgjengelig. I stedet samarbeider de med store teknologiselskaper som Apple, Amazon og Microsoft.

Gjennom et samarbeid kalt Project Glasswing får disse tilgang til systemet for å finne og tette sikkerhetshull i egne produkter. Også aktører som Linux-stiftelsen, Cisco og flere sikkerhetsselskaper er med.

Advarer om utviklingen

Anthropic understreker at modellen ikke ble laget med mål om å være så kraftig som den er blitt. Likevel peker utviklingen i retning av at lignende teknologi snart kan bli tilgjengelig også for angripere.

Selskapet er mest kjent for KI-assistenten Claude, som konkurrerer med ChatGPT. Samtidig har de markert seg ved å si nei til bruk av KI i autonome våpen og masseovervåkning, noe som har skapt konflikt med amerikanske myndigheter.

Utviklingen viser hvor kraftfull kunstig intelligens er i ferd med å bli, både som verktøy for sikkerhet og som en potensiell trussel.

Les også: Samsung lanserer app mot reisesyke