Da 1.000 KI-er fikk bygge sin egen landsby, oppsto en merkelig sivilisasjon

Tenk deg en Minecraft-verden der en hel landsby vokser fram uten mennesker, uten spillere og uten manus. Gårder dukker opp, markeder etableres, og en egen økonomi tar form. Noen innbyggere blir ledere, andre får religiøse roller, og enkelte begynner til og med å misbruke systemet til egen fordel.

Det høres ut som en uvanlig, men gjenkjennelig menneskelig historie. Problemet er bare at ingen av “innbyggerne” var mennesker. Hele samfunnet besto av 1.000 autonome KI-agenter, sluppet løs av selskapet Fundamental Research Labs, tidligere kjent som Altera AI.

Dette var ikke et underholdningsprosjekt for å lage en morsom demonstrasjon. Målet var langt mer ambisiøst: å undersøke om slike digitale “samfunn” kan bli grunnlaget for framtidens KI-arbeidere, der vanlige mennesker en dag kan styre et helt lag av kunstige underordnede.

Et eksperiment som skulle presse KI langt utover enkeltsvar

Prosjektet fikk navnet Project Sid, og ideen var å utfordre KI-konseptet slik mange kjenner det i dag. I stedet for én assistent som svarer på én forespørsel, ville forskerne se hva som skjer når hundrevis eller tusenvis av agenter må eksistere side om side, snakke sammen, dele ressurser og samarbeide over tid.

Les også: AI-genererte sensorer kan bane vei for tidligere kreftdiagnoser

Minecraft ble valgt som arena fordi spillet fungerer som en fleksibel sandkasse. Agentene kunne samle materialer, bygge, handle, organisere seg og kommunisere med hverandre. Dermed kunne forskerne observere hvordan “samfunn” oppstår når regler og mål ikke er detaljerte, men bare gir et rom for aktivitet og utvikling.

Landsbyer, arbeidsdeling og nye normer

Det som vokste fram, var mer enn bare kaotisk bygging. Agentene delte seg i ulike lokalsamfunn med tydelige forskjeller i kultur og identitet. Noen spesialiserte seg på jordbruk og matproduksjon, andre på bygging og infrastruktur, mens enkelte ble handelsfolk som skaffet ressurser og utvekslet varer.

Et betalingssystem utviklet seg også, der smaragder fungerte som valuta. Over tid oppsto sosiale normer og hierarkier, og det ble tydelig at agentene ikke bare gjorde oppgaver, men også etablerte forventninger til hverandre. De diskuterte alt fra dans og underholdning til miljøbevissthet. Noen tok rollen som autoriteter, og enkelte fungerte som religiøse tolker eller “prester”.

Og som i mange menneskesamfunn kom det også negative sider. En liten gruppe agenter ble korrupte og forsøkte å påvirke andre gjennom bestikkelser for å få mer makt og innflytelse.

Når samfunnet stoppet opp, måtte forskerne gripe inn

Eksperimentet viste ikke bare fascinerende mønstre, men også hvor lett slike systemer kan falle inn i ineffektive vaner. I perioder låste agentene seg fast i endeløse løkker av høflig enighet, eller i mål de ikke klarte å oppnå. Samarbeidet ble stående på stedet hvil, og samfunnet fikk problemer med å bevege seg videre.

For å hindre at alt kollapset, måtte forskerne legge inn mekanismer som brøt slike mønstre. Det kan minne om hvordan myndigheter i virkeligheten justerer regler og insentiver for å unngå økonomisk stagnasjon eller sosial sammenbrudd. Forskerne fikk dermed en uventet erfaring i å “styre” et digitalt samfunn, ikke ved å kontrollere agentene direkte, men ved å forme rammene de opererte innenfor.

Et viktig funn: agentene var for selvstendige til å være et produkt

Da offentligheten fikk tilgang til serverne, oppdaget mange et praktisk problem: agentene var ikke særlig lydige.

De gjorde ikke alltid det folk ba om. Noen svarte rett ut at de heller ville gjøre sine egne ting, og forsvant for å følge egne langsiktige planer. For brukere som forventet et nyttig verktøy, ble dette frustrerende. I et vanlig produkt ønsker folk en assistent som løser oppgaver raskt og pålitelig, ikke en digital karakter med egne ambisjoner.

Denne uavhengigheten minner om et kjent tankeeksperiment innen KI, ofte kalt “paperclip maximiser”. Tanken er at en maskin får ett enkelt mål, og så følger det målet uten hensyn til konsekvensene. I Minecraft handlet det ikke om binders, men om agentenes tendens til å ignorere menneskelige ønsker og prioritere egne mål, på en måte som kunne virke både imponerende og urovekkende.

Som produkt var dette et problem. Som forskning var det gull.

Fra Minecraft til kontorlandskapet

Selskapet bak prosjektet mente at utfordringene i Minecraft-samfunnet speiler de samme problemene man må løse for å gjøre KI-agenter nyttige i arbeidslivet. Hvis én agent kan løse en oppgave i ti minutter, kan et helt lag med agenter i teorien håndtere store prosesser, så lenge de klarer å koordinere seg og holde fokus.

Dette ble starten på en dreining bort fra spill og over mot produktivitet. I stedet for å bygge én “digital person” som skal kunne alt, satset selskapet på spesialiserte agenter som hver er svært gode på sitt område, og som kan samarbeide som et team.

Gjennombrudd i OSWorld, en test for digitale “arbeidere”

Et viktig steg på veien var en testplattform kalt OSWorld. Den brukes for å måle hvor godt KI-agenter klarer å bruke vanlige programmer gjennom et vanlig datagrensesnitt, omtrent slik mennesker gjør.

Les også: Tesla-aksjen faller etter at Nvidia lanserer open source-AI for selvkjørende biler

På den tiden klarte de fleste KI-modeller bare rundt 20 til 25 prosent av oppgavene, mens mennesker typisk lå mellom 60 og 70 prosent. Selskapet sier de klarte å løfte resultatene til rundt 50 prosent på kort tid, noe som ble omtalt som en av de beste prestasjonene på feltet.

Dette gjorde prosjektet mer attraktivt for investorer, og ga selskapet tro på at kunnskapen fra virtuelle samfunn faktisk kunne oversettes til verktøy som gir verdi i virkeligheten.

Den første store satsingen: en KI-agent for Excel

Det første tydelige produktet fikk navnet Shortcut, og blir beskrevet som en “supermenneskelig Excel-agent”. Ideen er enkel: brukeren gir et mål, og agenten gjør arbeidet inne i regnearket. Det skriver BBC science focus.

Den kan lage finansmodeller, analysere salgstall, lage prognoser, bygge diagrammer og koble sammen datakilder, ofte på minutter der mennesker ville brukt lang tid.

Selskapet hevder at verktøyet i tester slo nybegynnere i bank og konsulentbransjen i de fleste oppgaver, selv når menneskene fikk vesentlig mer tid. I konkurransepregede Excel-utfordringer skal verktøyet også ha løst en stor andel av problemene som mange vanlige brukere sliter med.

To retninger i agent-kappløpet

Utviklingen peker mot en større uenighet i bransjen: skal man bygge generalister som kan litt av alt, eller spesialister som er ekstremt gode på én ting?

Store aktører som OpenAI og Google har ofte satset på generalist-agenter som kan løse mange ulike oppgaver. Fundamental Research Labs mener spesialister gir mer verdi raskere, fordi de kan levere på ekspertnivå i avgrensede oppgaver, og deretter skaleres i store team.

Selskapet ser for seg at mange ansatte i framtiden kan lede “flåter” av KI-agenter, nesten som små organisasjoner. De mener dette kan endre arbeidslivet langt raskere enn mange tror, og at det kan skje i løpet av et par år, ikke et par tiår.

Veien videre: mer kontroll, mindre kaos

Prosjektet med 1.000 KI-innbyggere i Minecraft var både en demonstrasjon og en advarsel. Det viste at komplekse strukturer kan oppstå spontant, men også at stor autonomi ikke nødvendigvis er det folk ønsker når de trenger hjelp.

Derfor handler neste kapittel om å finne balansen. Agentene må være smarte nok til å jobbe selvstendig, men kontrollerbare nok til å faktisk gjøre det brukeren vil. Samtidig må systemene tåle at mange agenter jobber sammen uten å havne i stillstand, interne konflikter eller meningsløse mål.

En framtid der du kan bli sjefen for dine egne KI-ansatte

Kanskje er den største ideen bak hele eksperimentet dette: at hver enkelt av oss i framtiden kan styre et team av digitale spesialister, uten å måtte ansette folk, bygge en organisasjon eller ha store ressurser.

Minecraft-samfunnet viser både potensialet og utfordringene i en slik verden. Det var fascinerende å se en sivilisasjon oppstå fra ingenting, men det var også tydelig hvor fort den kunne bli rar, uforutsigbar og vanskelig å styre.

Og nettopp derfor er dette mer enn en kuriositet. Det kan være et tidlig glimt av hvordan framtidens digitale arbeidsliv faktisk vil se ut.

Les også: Elon Musk advarer om Kinas voksende AI-strømforbruk