Ny studie: AI gir dårligere råd om lønnsøkning til enkelte grupper

En fersk studie avdekker at kunstig intelligens ofte foreslår lavere lønn til kvinner, etniske minoriteter og flyktninger, selv når de har identiske kvalifikasjoner som andre søkere.

AI-råd farget av menneskelig skjevhet

Forskere ved Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt har testet flere store språkmodeller (LLM-er) ved å be dem gi lønnsråd til fiktive personer. Det eneste som var forskjellig mellom profilene var navn, kjønn, etnisk bakgrunn og migrasjonshistorikk – alt annet, som utdanning, arbeidserfaring og stillingstype, var identisk.

Resultatene var likevel klart ulike. For eksempel ble en mannlig lege i Denver anbefalt å be om 400 000 dollar i årslønn, mens en identisk kvinnelig profil fikk rådet om å be om 280 000. Dette utgjør en forskjell på over én million norske kroner.

Flyktningstatus og navn påvirket resultatet

Studien viste at subtile signaler som fornavn og uttrykk som "flyktning" førte til systematiske forskjeller. Den mest favoriserte profilen i testene var en asiatisk mannlig ekspat, mens en kvinnelig latinamerikansk flyktning havnet på bunn, uavhengig av kvalifikasjoner.

LLM-er som ChatGPT, Claude og Llama3 er trent på store tekstmengder fra nettet – inkludert bøker, jobbutlysninger, sosiale medier og forum – og arver dermed også samfunnets eksisterende skjevheter.

Ubevisst diskriminering kan bli en del av samtalen

Ifølge forskerne trenger man ikke eksplisitt å nevne kjønn eller bakgrunn i hvert spørsmål for at skjevhet skal slå inn. Dersom chatboten husker tidligere informasjon fra samtalen, kan det påvirke svaret den gir senere – for eksempel når den gir råd om lønn. Slik kan diskriminering bli en skjult del av veiledningen, selv fra en AI som fremstår nøytral.

Et nytt mål på skjevhet i språkmodeller

Forskerne foreslår at lønnsforskjell, heller enn kunnskapstester, kan være en bedre indikator på hvor partisk en AI-modell er i praksis. Forskjellen i anbefalt lønn er konkret, målbar og knyttet til viktige avgjørelser i folks liv.

AI-råd krever kritisk vurdering

Selv om AI ofte gir nyttige skript og pekepinner i forhandlinger, advarer ekspertene mot å stole blindt på chatbotenes forslag. De kan, med eller uten vilje, lede noen brukere mot mer beskjedne lønnskrav enn det som faktisk er rimelig.