Hva er superintelligens?

Verden har så vidt begynt å venne seg til samtale-AI som ChatGPT og Gemini. Men i horisonten venter noe langt større: kunstig superintelligens, en teknologi som ikke bare kan svare på spørsmål, men overgå menneskelig intelligens på alle områder.

Mer enn bare samtale-AI

Verktøy som Claude, Grok og Perplexity har imponert mange med evnen til å generere tekst, kode og oppsummere informasjon. Men de er fortsatt eksempler på såkalt smal AI, systemer som gjør én ting bra, men mangler bred forståelse.

Superintelligens, eller ASI (Artificial Superintelligence), er i teorien neste steg. Et system som kan utkonkurrere mennesker i alt fra medisin og strategi til kreativitet, emosjonell intelligens og vitenskap.

En visjon som splitter

Meta-sjef Mark Zuckerberg har gjort det klart at hans mål er å utvikle «personlig superintelligens» – og har satt i gang en massiv satsing for å komme dit før konkurrentene. I juni lanserte selskapet Superintelligence Labs med milliardinvesteringer i datasentre og infrastruktur.

Filosofen Nick Bostrom populariserte begrepet superintelligens i 2014 og advarte mot faren for at en selvforbedrende AI kunne komme ut av menneskelig kontroll. Han mener utviklingen nå skjer raskere enn mange forutså, og at vi snart må ta stilling til hvordan slike systemer bør behandles moralsk og sosialt.

Hvor nær er vi?

En stor forskningsundersøkelse i 2024 antyder at det er 50 prosent sannsynlighet for at maskiner overgår mennesker på alle oppgaver innen 2047. Enkelte eksperter mener det kan skje allerede innen 2027.

Geoffrey Hinton, ofte omtalt som AI-ens gudfar, har advart mot at en fiendtlig AI-teknologi en dag kan utvikle biologiske trusler som vi ikke klarer å stå imot. Han mener derfor det viktigste er å sørge for at superintelligens aldri får lyst til å skade oss.

Vi må fortsatt gjennom AGI

Før superintelligens kan bli en realitet, må vi passere et mellomstadium: kunstig generell intelligens (AGI). Det er et system som kan lære og løse problemer på tvers av domener, en AI med allsidigheten til et menneske.

Selv om dagens AI-modeller begynner å vise tegn til slike egenskaper, er det fortsatt tekniske gjennombrudd som mangler. Det handler blant annet om bedre læringsalgoritmer, ny maskinvare og evnen til å forstå og bruke kunnskap i nye kontekster.

Kan vi stole på slike systemer?

Spørsmålet om tillit er fortsatt ubesvart. Hva skjer når AI-systemer blir så komplekse at ingen lenger forstår hvordan de tar beslutninger? Og hvordan skal vi håndtere systemer som kan forbedre seg selv, men som kanskje ikke har samme verdier eller mål som oss?

EU har innført en AI-forordning, men det finnes ingen global enighet om regulering. Ifølge flere eksperter kan det være risikabelt å utvikle slike systemer uten internasjonal kontroll og åpenhet.

En ny epoke på godt og vondt

Superintelligens omtales ofte som den siste oppfinnelsen mennesket trenger å gjøre, fordi teknologien i teorien kan finne løsningene på alt annet. Den kan revolusjonere medisin, forskning og teknologi, men også true hele samfunnsstrukturen.

Ifølge Nick Bostrom kan vi stå overfor det han kaller en «post-instrumentell tilstand» der vi må revurdere hva det vil si å være menneske.

Men for nå er veien videre fortsatt uklar. Det neste store vendepunktet blir om, og når vi oppnår ekte generell intelligens. Først da vil vi kunne se konturene av hva superintelligens virkelig innebærer.