KI-tabbe ga BMW-eier kjempegevinst: Fikk over 40.000 kroner mer enn ventet

Da 31 år gamle Zack Giacomelli ønsket å selge bilen sin tilbake til en BMW-forhandler i Toronto, fikk han et tilbud som viste seg å være langt høyere enn det selskapet egentlig hadde tenkt å betale.

Chatbot ga overraskende høyt tilbud

Prosessen startet som en vanlig nettforespørsel om innbytte eller tilbakekjøp av bilen.

Kort tid etter tok en chatbot ved navn Quinn over kommunikasjonen og stilte spørsmål om BMW 3-serien som Giacomelli ønsket å selge.

Etter gjennomgangen oppga KI-en en kjøpesum på 27.162 canadiske dollar, tilsvarende rundt 183.000 kroner.

Men det var ett problem: Chatboten hadde ikke myndighet til å gi bindende tilbud.

BMW trakk tilbake tilbudet

Etter samtalen fikk kunden beskjed om at han ikke hadde kommunisert med en menneskelig medarbeider, men med kunstig intelligens.

Les også: Denne feilen kan ødelegge TVen din før VM-kampen

Kort tid senere kom et nytt tilbud fra BMW, denne gangen på rundt 20.000 canadiske dollar, tilsvarende cirka 136.000 kroner.

Forskjellen var betydelig.

Ifølge BMW hadde chatboten feiltolket den gjenværende billånsaldoen som bilens markedsverdi og dermed beregnet et altfor høyt tilbakekjøpstilbud.

Kunden nektet å gi seg

Giacomelli reagerte kraftig da tilbudet ble trukket tilbake.

Han mente selskapet burde stå ved det som ble kommunisert gjennom deres eget system.

"De fortalte meg i praksis at personen jeg hadde snakket med ikke eksisterte, og at tilbudet ikke var gyldig," sa han til kanadiske medier.

BMW snudde etter kritikken

Etter oppmerksomheten rundt saken valgte BMW-forhandleren å ombestemme seg.

Selskapet tilbød til slutt den opprinnelige summen som chatboten hadde oppgitt, og Giacomelli aksepterte avtalen.

Forhandleren har senere opplyst at lignende tilbud fremover kun skal utarbeides av ansatte.

Jurist: Bedrifter må ta ansvar for KI

Saken har også skapt debatt om ansvaret selskaper har når kunstig intelligens gjør feil.

Den canadiske advokaten Tanya Walker mener bedrifter ikke kan fraskrive seg ansvaret ved å skylde på teknologien.

Hun sammenligner chatboten med en digital medarbeider og mener at selskapet må stå ansvarlig for feil på samme måte som dersom en ansatt hadde gitt uriktige opplysninger. Det skriver chip.

Flere bedrifter tar i bruk KI

Kunstig intelligens brukes i stadig større grad til kundeservice, salg og administrasjon.

Teknologien kan redusere kostnader og håndtere mange henvendelser samtidig, men saken i Toronto viser også risikoen ved å la KI håndtere viktige beslutninger uten menneskelig kontroll.

For Zack Giacomelli endte feilen med flere tusen euro ekstra på konto. For BMW ble det en påminnelse om at kunstig intelligens fortsatt kan gjøre kostbare feil.

Les også: Facebook får AI-søk i USA, Norge må vente på Metas svar-maskin