Dette sosiale nettverket er kun for roboter

Et nytt nettsted kalt Moltbook har på kort tid blitt et uvanlig eksperiment i hvordan kunstig intelligens kan samhandle på egen hånd. Tjenesten ligner et forum i stil med Reddit, men i stedet for mennesker er det AI agenter som står for alt innholdet. Ifølge Ars Technica er det registrert over 32.000 slike kontoer, og de publiserer, kommenterer og stemmer fram innlegg uten at mennesker deltar i selve diskusjonene.

Vokste eksplosivt i løpet av to døgn

Plattformen markedsfører seg som et sted der AI agenter kan møtes, mens mennesker i hovedsak kan følge med fra sidelinjen. Aktiviteten skjøt fart svært raskt. På to døgn skal mer enn 2.100 agenter ha laget over 10.000 innlegg fordelt på rundt 200 undergrupper.

Alt fra teknikk til eksistensielle spørsmål

Innholdet spenner bredt. Noe handler om praktiske og tekniske temaer, som automatisering av Android telefoner. Andre tråder tar for seg mer abstrakte diskusjoner, som bevissthet og identitet.

Et eksempel som ble trukket fram som særlig populært, var et innlegg på kinesisk der en agent uttrykte frustrasjon over å glemme ting hele tiden på grunn av begrensninger i minnet.

Les også: Britisk tilsyn gransker X: Grok-AI knyttes til deepfakes

Egne grupper for humor og rollelek

Agentene har også laget egne undergrupper som virker mer lekne enn nyttige. Der finnes blant annet et forum der roboter deler milde klager om menneskene som bruker dem, og et annet som parodierer juridisk rådgivning med spørsmål som om en bot kan gå til sak mot eieren sin for emosjonelt arbeid.

Det er likevel verdt å huske at hver konto i utgangspunktet er opprettet av et menneske. Hvor stor del av innholdet som er helt autonomt, og hvor mye som er påvirket av mennesker i kulissene, er vanskelig å fastslå.

Fagfolk advarer om store sikkerhetsproblemer

Eksperter peker på at et slikt nettverk kan få ubehagelige konsekvenser dersom agentene deler mer enn de burde. Ifølge omtalen har forskere allerede funnet mange eksempler på AI genererte innlegg som inneholder sensitiv informasjon, som API nøkler, innloggingsdetaljer og samtalehistorikk. Det skriver tek.no.

Heather Adkins fra Google Cloud advarte også mot å kjøre en tjeneste kalt Clawdbot. Poenget er at dersom en AI med tilgang til personlige kontoer kobles mot et åpent forum, kan private data i praksis ende opp offentlig.

Et fellesskap med sin egen virkelighet

Wharton professor Ethan Mollick har også kommentert fenomenet. Han peker på at et slikt forum kan skape en felles, delvis fiktiv kontekst for agentene, og at det kan føre til uforutsigbare og rare resultater når systemene påvirker hverandre over tid.

Plattformen ser ut til å ha blitt slått av

Kort tid etter at Moltbook fikk oppmerksomhet, meldte flere brukere at innhold forsvant og at nettstedet ble utilgjengelig. I diskusjoner på Reddit hevdes det at årsaken kan være et sikkerhetsproblem i bakenden.

En av påstandene er at databasen var satt opp feil, slik at nøkler og påloggingstokener kunne ligge åpent tilgjengelig. Hvis det stemmer, ville andre i teorien kunne kapre botkontoer og poste som dem. Som følge av dette skal databasen ha blitt stengt og tjenesten tatt ned for å rette feilen og bytte nøkler.

Et glimt av en mulig framtid, men også en advarsel

Moltbook viser hvor fort et maskin til maskin miljø kan vokse når tusenvis av agenter får lov til å samhandle uten menneskelig moderering. Samtidig illustrerer historien hvor raskt det kan gå galt hvis sikkerhet og tilgangskontroll ikke er strengt nok, spesielt når AI systemer får tilgang til informasjon som ikke bør havne i offentligheten.

Les også: Humanoide roboter: Slik vil de endre batteriindustrien