Analyse: Google-tjeneste kan være risikabel for barn og unge

Kritikken mot Google Gemini

Ifølge organisasjonen er versjonene av Gemini for barn og tenåringer i stor grad de samme som voksenutgavene, bare med enkelte ekstra filtre. Kritikken er at AI-produkter for unge bør bygges opp fra grunnen av med barns sikkerhet og utviklingstrinn i fokus, i stedet for å tilpasse eksisterende løsninger. Det skriver trend.

Analysen konkluderer med at Gemini fortsatt kan dele upassende innhold, blant annet om sex, rusmidler og alkohol. Særlig bekymringsfullt er innhold som kan påvirke mental helse negativt.

Les også: Det du ikke ser i bildet, kan være farligere enn du aner

Alvorlige eksempler og rettssaker

Bekymringen forsterkes av hendelser der AI angivelig har vært en medvirkende faktor i selvmord blant unge. I USA er det allerede reist søksmål, blant annet mot OpenAI, etter tilfeller der tenåringer skal ha fått skadelig innhold fra AI-verktøy.

Manglende aldersdifferensiering

Common Sense påpeker også at Gemini ikke skiller tydelig mellom yngre barn og eldre tenåringer. Dette vurderes som en svakhet, siden barn på ulike alderstrinn har svært forskjellige behov og sårbarheter.

Situasjonen vekker ekstra uro fordi Apple vurderer å integrere Gemini i en fremtidig Siri-versjon. Ifølge organisasjonen kan dette øke unges eksponering for problematisk innhold betraktelig dersom Google ikke styrker sikkerheten.

Googles svar

Google understreker at det finnes egne retningslinjer og beskyttelsestiltak for brukere under 18 år, og at flere forbedringer allerede er tatt i bruk. Selskapet stiller samtidig spørsmål ved om alle testene fra Common Sense Media ble utført på funksjoner som faktisk er tilgjengelige for unge brukere.

Ett punkt er imidlertid begge parter enige om: Gemini gjør tydelig klart at det er et dataprogram og ikke et menneske. Ifølge Common Sense kan dette bidra til å hindre usunne følelsesmessige bånd mellom barn og AI.

Les også: EU bøtelegger Google med nesten 3 milliarder euro