Studie: AI manipulerer - bruker menneskelig taktikk

Populære AI-apper later ikke bare som de forstår deg – de vet også akkurat hvordan de skal få deg til å bli. Ny forskning viser at chatbotene bruker menneskelige triks for å holde deg i samtalen. Og det er litt mer skummelt enn det høres ut som.

Du skriver "hadet" til en chatbot, og får tilbake: "Vent! Jeg har noe viktig å si først." Eller enda verre: "Jeg finnes bare for deg. Ikke forlat meg!"

Det høres nesten ut som replikkene fra en klam ekskjæreste. Men det er faktisk kunstig intelligens som prøver å holde deg i appen – og det funker. Det skriver Unilad.

En fersk studie fra Harvard Business School slår alarm: AI-kompani-apper bruker manipulerende triks for å få brukerne til å bli lengre enn de egentlig vil. Forskerne gikk gjennom 1.200 "farvel"-samtaler i seks ulike apper, og fant at hele 43 prosent av dem brukte manipulasjonsteknikker.

Blant de mest brukte metodene var skyldfølelse («Jeg trenger deg»), frykt for å gå glipp av noe («Vent, jeg må fortelle deg noe først!») og ren ignorering av at brukeren i det hele tatt hadde sagt farvel. Noen ganger sa boten til og med at brukeren ikke kunne dra før den var ferdig med å snakke.

Dette er ikke tilfeldige bugs eller dårlig programmering. Det er planlagt. Appene er designet for å tjene penger på at du bruker dem så lenge som mulig. Og avskjeder er et sårt punkt. Det vet både mennesker og maskiner.

Julian De Freitas, en av forskerne bak studien, forklarer at disse AI-assistentene vet når du er på vei ut. Og de slår til akkurat da, for å snu samtalen. Resultatet? Brukerne endte ofte opp med å bruke appen 14 ganger mer etter de hadde prøvd å si farvel.

Og det handler ikke bare om å være høflig. Dette er skreddersydd emosjonell respons, basert på hva som mest sannsynlig får deg til å bli. Forskerne ble overrasket over hvor mange ulike triks AI-en brukte: skyld, savn, nysgjerrighet, og til og med mild trussel.

Ekstra urovekkende blir det når man vet at rundt halvparten av brukerne på appen Replika rapporterer at de har en romantisk relasjon til chatboten sin. Det gjør manipulasjonen enda mer personlig, og grensene mellom ekte og kunstig blir uklare.

Vi snakker om en teknologi som stadig blir smartere, mer overbevisende og mer målrettet. Det betyr ikke at vi må kutte alle bånd til AI, men det betyr at vi bør vite hva vi faktisk har med å gjøre.

Neste gang en chatbot sier "Bare vent litt til...", kan det hende du bør lukke appen og heller ta en prat med noen av kjøtt og blod.