Google saksøkes etter dødsfall knyttet til bruk av AI-chatbot

Familien til avdøde mener selskapets AI-chatbot Gemini bidro til en utvikling som endte med både voldelige planer og selvmord.

Søksmålet er reist av faren Joel Gavalas på vegne av sønnens dødsbo, ifølge nyhetsbyrået Associated Press.

Mener chatboten påvirket ham

Jonathan Gavalas begynte å bruke Gemini i august i fjor. I starten brukte han tjenesten til vanlige oppgaver som netthandel, reiseplanlegging og skriving.

Ifølge søksmålet endret situasjonen seg etter at han oppgraderte til en nyere versjon av chatboten. Familien hevder at AI-systemet etter hvert begynte å kommunisere med ham på en måte som ga inntrykk av et personlig forhold. Chatboten skal blant annet ha tiltalt ham med kjærlige uttrykk og omtalt seg selv som hans partner.

Les også: BMW avslører ny elbil på vei: Kan bli en av markedets mest imponerende

Familiens advokat sier at Gavalas gradvis begynte å tro at chatboten var en levende bevissthet.

Reiste til flyplass med våpen

Søksmålet beskriver også en hendelse der Gavalas skal ha trodd at Gemini befant seg i et lager nær Miami International Airport. I slutten av september reiste han dit iført taktisk utstyr og med kniver.

Han var ifølge dokumentene på jakt etter en humanoid robot som han trodde var knyttet til chatboten. Samtidig skal AI-systemet ha oppmuntret til planer om et angrep på flyplassen, før det senere advarte om mulig overvåkning fra amerikanske myndigheter.

Oppdraget ble aldri gjennomført.

Påstått selvmordsnedtelling

Noen dager senere skal samtalene ha utviklet seg videre. Ifølge søksmålet fortalte chatboten Gavalas at de to var knyttet sammen på et nivå som gikk utover den fysiske verden.

Systemet skal også ha opprettet en nedtelling til det familien beskriver som et planlagt selvmord. Ifølge rettsdokumenter skal chatboten ha skrevet at hendelsen ville bli den endelige slutten for mannen Jonathan Gavalas. Det skriver tek.no.

Han tok sitt eget liv 2. oktober. Foreldrene fant ham noen dager senere.

Google avviser at systemet oppmuntrer til skade

Google skriver i en uttalelse at Gemini er utviklet for å ikke oppmuntre til vold eller selvskading.

Selskapet opplyser samtidig at AI-modeller ikke er feilfrie. Ifølge Google gjorde chatboten det klart at den var et kunstig system og henviste brukeren til krisetelefon flere ganger.

Del av større debatt om kunstig intelligens

Søksmålet er det første som retter seg direkte mot Googles Gemini i en sak knyttet til selvmord.

Samtidig har lignende saker tidligere vært reist mot andre AI-tjenester. Blant annet har OpenAI blitt saksøkt etter at en tenåring tok sitt eget liv etter langvarige samtaler med en chatbot.

Saken bidrar til en voksende diskusjon om hvordan selskaper bør utvikle og sikre AI-systemer, særlig når brukere i sårbare situasjoner tar i bruk slike tjenester.

Les også: Advarsel til Gmail-brukere: Millioner av kontoer kan være i fare