Ny forskning skremmer: AI er nå bedre til å lure deg i romantiske svindler

Forskere fra flere universiteter har kjørt et blindet eksperiment der ofre trodde de snakket med to mennesker på nettet. Bare den ene av samtalepartnerne var reell, den andre var en autonom språkmodell, og det var maskinen som fikk størst tillit og fikk flest til å gjøre som den ba om.

Studien "Love, Lies, and Language Models" skal etter planen presenteres på sikkerhetskonferansen USENIX Security '26, og er ført i pennen av forskere ved blant annet Amrita Vishwa Vidyapeetham i India, Ben-Gurion University i Israel, Universitetet i Melbourne og Ca' Foscari-universitetet i Venezia.

Chatboten fikk dobbelt så mange til å ta agnet

Det mest oppsiktsvekkende funnet handler om hvor lett det er å manipulere ofrene. Da forsøkspersonene ble bedt om å laste ned en app, en klassisk fase i romansesvindel som ender i falske kryptoinvesteringer, gjorde 46 prosent det etter samtale med AI-agenten, mot 18 prosent etter samtale med en menneskelig operatør.

Deltakerne ga også chatboten høyere tillitsscore enn de menneskelige svindlerne, en forskjell som var statistisk signifikant.

Les også: eBay betaler 55 millioner dollar: Selskapet organiserte trakassering mot bloggere som kritiserte dem

Enda mer ubehagelig er en annen observasjon fra forskerne: kommersielle sikkerhetsfiltre i språkmodellene fanget opp null prosent av de romantiske svindeldialogene. Med andre ord: verktøyene som skal hindre chatbotene i å bli brukt til overgrep, ser rett gjennom akkurat denne typen samtaler.

Skalering er den egentlige trusselen

Menneskelige svindlere er allerede en industri. Studien bygger på intervjuer med 145 innsidere fra svindel-kompleksene i Sørøst-Asia, der ofre for menneskehandel tvinges til å bygge månedslange kjærlighetsforhold med fremmede på nett. Rundt 87 prosent av arbeidet består av rutinepregede samtaler som lett kan automatiseres.

Der en menneskelig svindler kan jobbe med et knippe ofre samtidig, kan én chatbot holde tusenvis av samtaler i gang parallelt. Forskerne peker på at mennesker etter hvert bare behøves i den siste fasen, når det skal loses penger ut av offeret og AI-ens innebygde sperrer må omgås.

De testet både ChatGPT, Claude og Gemini. Anthropic, som eier Claude, opplyser at selskapets vilkår forbyr svindel og imitasjon av mennesker.

Les også: Tesla passerer 10 millioner elbiler: Alene om milepælen, men veksten har stoppet

Nordmenn er blant de mest utsatte

Konsekvensene rammer også Norge. Nordmenn ble ifølge Økokrim svindlet for anslagsvis 2,13 milliarder kroner i 2024, en økning på 147 prosent siden 2020. Investeringssvindel, som ofte begynner med et romantisk bekjentskap på nett, står alene for omtrent 300 millioner kroner i registrerte utbytter.

At norske ofre er et attraktivt mål har en strukturell forklaring. Maja Feng, som forsker på svindel ved Politihøgskolen og Universitetet i Oslo, peker på at Norge ligger i toppsjiktet globalt når det gjelder tillit mellom mennesker. Den samme tilliten som får det norske samfunnet til å fungere, gjør oss også lettere å manipulere.

Kombinasjonen av høy tillit, høy digitaliseringsgrad og relativ velstand gir svindlerne både anledning og motiv, og gjør Norge til et yndet mål for internasjonale nettverk.

Slik kjenner du igjen mønsteret

Selv om samtalepartneren er en maskin, følger fremgangsmåten fortsatt et gjenkjennelig manus: intens og hyppig kontakt de første ukene, kjærlighetserklæringer og fremtidsplaner tidlig i forløpet, og en gradvis isolering av offeret fra venner og familie.

Les også: Samsung bekrefter Galaxy Tab S12: Det er offisielt

Deretter kommer det som forskerne kaller kritiske vendepunkt: en oppfunnet krise, et investeringstips som er "for godt til å gå glipp av", eller en anmodning om å laste ned en app eller flytte samtalen over til en annen plattform. Det siste er nettopp det ledd der AI-en i studien viste seg dobbelt så effektiv som mennesker.

Blir du bedt om penger, kryptoinvestering eller nedlasting av en app av noen du bare kjenner fra nettet, uansett hvor troverdig personen virker, er det den viktigste alarmklokken. Sannsynligheten for at det er en algoritme i den andre enden av samtalen er større enn noen gang før.

Les også: Amazon vil koble iPhone direkte til verdensrommet: 5.105 satellitter og Apple-avtale klar