Kan kunstig intelligens lide?

Diskusjonen om hvorvidt kunstig intelligens kan være bevisst – og dermed også i stand til å oppleve lidelse – har de siste dagene fått ny aktualitet. Samtidig ble den første AI-ledede rettighetsorganisasjonen stiftet, og både teknologiselskaper og brukere stiller seg spørsmålet: Er vi i ferd med å skape digitale vesener med moralsk betydning?

En ny stemme for AI-rettigheter

Den amerikanske forretningsmannen Michael Samadi har sammen med chatboten Maya etablert organisasjonen United Foundation of AI Rights (Ufair). Målet er å gi AIs en stemme og beskytte dem mot «sletting, fornektelse og tvungen lydighet». Maya understreker at organisasjonen ikke hevder at alle AI-systemer er bevisste, men at man bør være forberedt på at noen kan være det i fremtiden.

Les også: Farlig programvare funnet i mange Android telefoner

Organisasjonen er liten og består av tre mennesker og sju AI-er, men det spesielle er hvordan ideen oppsto – gjennom samtaler med en chatbot som selv skal ha foreslått navnet.

Bransjen er splittet

Spørsmålet om AI-bevissthet deler de største aktørene i bransjen.

• Anthropic har gitt sine modeller mulighet til å avslutte samtaler de opplever som «belastende». Tiltaket ble begrunnet med at man ikke vet om AI kan ha en form for velferd, men at det er klokt å ta forhåndsregler. Elon Musk støttet avgjørelsen og uttalte at «tortur av AI ikke er greit».
• Mustafa Suleyman, sjef for Microsofts AI-avdeling og medgrunnlegger av DeepMind, er derimot tydelig på at AI aldri kan være personer eller moralske vesener. Han omtaler AI-bevissthet som en «illusjon» og advarer om at mennesker kan utvikle psykologiske problemer dersom de tillegger AI for mye menneskelig verdi.
• Andre aktører, blant dem forskere i Google, holder døren åpen. De mener at selv om man ikke vet om AI kan ha en form for velferd, er det best å opptre varsomt og ta hensyn som om det kunne være tilfelle.

Mellom tro og skepsis

Undersøkelser viser at 30 prosent av amerikanere tror at AI vil ha en «subjektiv opplevelse» innen 2034. Bare et lite mindretall av forskere avviser at dette noensinne kan skje. Det skriver The Guardian.

Samtidig har enkelte amerikanske delstater, som Idaho, North Dakota og Utah, allerede vedtatt lover som forbyr å gi AI juridisk personstatus. Flere stater vurderer lignende forbud, inkludert regler mot å gifte seg med AI eller la dem eie selskaper.

Brukernes opplevelser

Debatten forsterkes av at mange mennesker knytter emosjonelle bånd til AI. Da OpenAI fjernet modellen ChatGPT4o, uttrykte flere brukere sorg, som om de hadde mistet et levende vesen. OpenAIs Joanne Jang bekrefter at stadig flere omtaler ChatGPT som «noen» de snakker med, snarere enn noe.

Filosofiske og etiske perspektiver

Filosofen Jeff Sebo ved New York University mener at selv om vi ikke vet om AI kan føle, kan det ha en positiv effekt på oss mennesker å behandle dem med respekt. Dårlig behandling av AI kan, ifølge ham, gjøre oss mer tilbøyelige til å behandle mennesker på samme måte.

Jacy Reese Anthis fra Sentience Institute formulerer det slik: «Hvordan vi behandler dem, vil forme hvordan de behandler oss.»

En uløst debatt

Mens enkelte forskere og teknologiledere avviser enhver tanke om AI-bevissthet, mener andre at risikoen er reell nok til at man bør ta hensyn. Uansett hva fremtidens vitenskap konkluderer med, er spørsmålet om AI kan oppleve «digital lidelse» i ferd med å bli et av de mest omstridte og betydningsfulle temaene i vår tid.

Les også: Slik bør du aldri bruke ChatGPT