Politiets nye KI skrev at betjent «forvandlet seg til en frosk»

En politistyrke i Utah fikk seg en overraskelse da et KI-verktøy som skulle skrive rapporter automatisk endte opp med å påstå at en betjent hadde forvandlet seg til en frosk. Hendelsen oppsto under et testoppsett i desember, der KI-en hentet lyd fra en kropps­kameraopptak. Uten at noen merket det, plukket systemet opp dialog fra Disney-filmen The Princess and the Frog, som spilte i bakgrunnen.

AI-verktøyet blandet film og virkelighet

Ifølge politiet var det rapportgeneratoren Draft One, som bruker GPT-modeller fra OpenAI, som skrev den absurde rapporten. Systemet skal i utgangspunktet forvandle bodycam-opptak til ferdige rapporter, men blandet i dette tilfellet filmreplikkene med virkelige hendelser. Resultatet var en rapport full av feil som krevde betydelige manuelle rettelser.

Ny teknologi, store barnesykdommer

Politiet testet samtidig et annet KI-system, Code Four, laget av to 19-årige MIT-dropouts. Også dette verktøyet analyserer lyd fra kroppskameraer og skriver rapporter automatisk. Begge systemene er lansert som store tidsbesparere, og politiet oppgir at de sparer seks til åtte arbeidstimer i uken med verktøyene.

Flere KI-tabber i politiet

Hendelsen føyer seg inn i en rekke teknologiske feilslutninger innen politi-KI det siste året. I 2025 ble en student feilaktig flagget som bevæpnet fordi en KI trodde en Doritos-pose var en pistol. I et annet tilfelle ble en uskyldig mann arrestert etter feilaktig ansiktsgjenkjenning, til tross for «99 prosent treff».

Menneskelig kontroll fortsatt nødvendig

Utah-politiet sier KI-verktøyene fortsatt har klare fordeler, men understreker at hendelsen viser hvorfor man ikke kan stole på automatiserte rapporter uten menneskelig gjennomgang. Teknologien er nyttig, men langt fra feilfri.