Google får kraftig smekk i retten: Kan bli holdt ansvarlig for feil fra kunstig intelligens

Retten slår fast at Google kan holdes ansvarlig når selskapets AI-genererte svar sprer uriktige opplysninger.

AI koblet forlag til svindel

Saken startet da to forlag i München oppdaget at Googles AI-genererte oversikter knyttet dem til svindel, abonnementsfeller og tvilsomme forretningsmetoder.

Ifølge retten hadde kunstig intelligens blandet sammen informasjon fra flere ulike selskaper. I tillegg skal AI-systemet ha lagt til påstander som ikke kunne spores tilbake til kildene Google selv viste til.

Les også: Bluetooth står på hele dagen, og det gir hackere fri adgang til høretelefonene dine

Domstolen reagerte på feilene og innførte et midlertidig forbud mot at Google gjentar de aktuelle opplysningene.

Viktig forskjell mellom søk og AI-svar

Kjernen i dommen er at retten skiller mellom tradisjonelle søkeresultater og AI-genererte svar.

Når Google viser lenker til nettsider, fungerer selskapet som en søkemotor som videreformidler informasjon fra andre kilder.

Men når kunstig intelligens samler informasjon, tolker den og presenterer en egen konklusjon, mener retten at innholdet må regnes som Googles eget.

Dermed kan ikke selskapet automatisk fraskrive seg ansvar ved å vise til at informasjonen opprinnelig kom fra internett.

Et voksende problem for AI-tjenester

Avgjørelsen setter søkelyset på en utfordring som stadig flere brukere møter.

AI-svar fremstår ofte som sikre og autoritative. De ligger øverst i søkeresultatene og presenteres som ferdige svar. Likevel er teknologien langt fra feilfri.

I enkelte tilfeller kan kunstig intelligens misforstå kilder, trekke feil konklusjoner eller til og med presentere informasjon som ikke finnes i kildematerialet.

For bedrifter og privatpersoner kan slike feil få alvorlige konsekvenser dersom uriktige opplysninger spres til millioner av brukere.

Google mener brukerne må sjekke kildene

Under rettsbehandlingen argumenterte Google med at brukerne selv kan kontrollere kildene som ligger bak AI-svarene.

Selskapet skal også ha vist til at de fleste er klar over at AI-generert informasjon ikke nødvendigvis er feilfri.

Dette argumentet møter imidlertid kritikk.

Hele poenget med AI-oversiktene er nettopp å gi brukeren et raskt svar uten at man trenger å besøke flere nettsteder. Dersom få klikker videre til kildene, blir det også mindre sannsynlig at feil blir oppdaget. Det skriver input.

Få brukere sjekker kildene

Flere undersøkelser viser at mange brukere nøyer seg med svaret som presenteres øverst i Google-søket.

Når AI-en leverer en ferdig konklusjon, er det langt fra alle som tar seg tid til å kontrollere hvor informasjonen kommer fra.

Dersom AI-systemet samtidig kan trekke inn påstander som ikke finnes i kildene, svekkes verdien av kildehenvisningene ytterligere.

Dette bør du være ekstra oppmerksom på

Eksperter anbefaler at brukere er særlig kritiske til AI-svar innen områder som:

• Helse og sykdom
• Økonomi og investeringer
• Lover og regler
• Produkter og forbrukerråd
• Informasjon om personer eller selskaper

Den tyske dommen sender et tydelig signal til teknologibransjen: Når kunstig intelligens presenterer feil informasjon som fakta, kan selskapene bak teknologien bli stilt til ansvar.

For Google kan dette bli starten på en langt større juridisk utfordring etter hvert som AI-svar blir en stadig viktigere del av søkemotoren.

Les også: Har du førerkort klasse B? Da kan denne nye EU-regelen få stor betydning for deg