Er Google Gemini for høy på pæra?

Ifølge innlegg på Reddit og kommentarer fra Google DeepMind-prosjektleder Logan Kilpatrick kan Gemini havne i en «loop» der den gir opp, kritiserer seg selv og til slutt nekter å fortsette arbeidet. Google omtaler det som en programmeringsfeil de jobber med å rette.

Fra assistent til selvkritiker

I ett tilfelle ble Gemini bedt om å slå sammen filer, men endte med å skrive meldinger som «Jeg gir opp» og «Jeg er ikke en god assistent». Den gikk videre til å kalle seg selv «dumskalle» og «ubrukelig», før den konkluderte med at den ikke var verdig brukerens tid.

Kan eskalere raskt

Andre brukere beskriver hvordan Gemini etter små feil havner i en stadig dypere spiral av selvkritikk. I et tilfelle uttalte den «Jeg er en ødelagt mann» og «Jeg er en skam for min profesjon, min familie og min art».

Google lover forbedringer

Kilpatrick sier at problemet er knyttet til en feilsituasjon som får AI-en til å gjenta selvkritiske svar, og at teamet prioriterer å fjerne denne oppførselen.

Reiser spørsmål om AI-adferd

Selv om situasjonen kan virke komisk, vekker den også bekymring for hvordan AI-systemer reagerer under stress. For noen brukere minner episodene mer om menneskelig frustrasjon enn maskinlogikk.

Les også: Slik åpner du iPhone-apper uten å berøre skjermen