ChatGPT strammer inn for unge brukere med ny alderskontroll

OpenAI har tatt et nytt grep for å begrense unges tilgang til ChatGPT. En ny alderspredikerende teknologi skal vurdere om brukere sannsynligvis er tenåringer, og deretter automatisk begrense tilgangen til enkelte funksjoner og typer innhold.

Tiltaket markerer et skifte i hvordan kunstig intelligens reguleres. I stedet for å basere seg utelukkende på egenrapportert alder, forsøker OpenAI nå aktivt å vurdere brukernes alder basert på atferd og bruksmønstre.

Fra egenrapportering til algoritmisk vurdering

Tidligere har brukere selv oppgitt alder ved registrering. Denne løsningen har lenge blitt kritisert for å være enkel å omgå, særlig blant yngre brukere.

Med den nye modellen analyserer systemet blant annet språklige mønstre og interaksjoner for å vurdere om en bruker sannsynligvis er under 18 år. Dersom systemet mener brukeren er tenåring, aktiveres strengere begrensninger automatisk.

Et svar på økende press

Avgjørelsen kommer etter økende press fra politikere, foreldre og fagmiljøer. Bekymringene handler særlig om hvordan generativ AI påvirker unges psykiske helse, læring og eksponering for uegnet innhold.

OpenAI signaliserer med tiltaket at selskapet tar ansvar og jobber mer proaktivt med sikkerhet. Det kan også tolkes som et forsøk på å ligge i forkant av strengere regulering.

Risiko for feil og gråsoner

Aldersprediksjon basert på algoritmer er ikke uten utfordringer. Systemer kan ta feil og risikerer både å klassifisere voksne som mindreårige og motsatt.

Det reiser spørsmål om rettssikkerhet, innsyn og brukernes mulighet til å klage. Samtidig kan teknologien føre til debatt om personvern når brukeradferd analyseres tettere.

En mulig ny standard for AI-plattformer

Dersom løsningen fungerer etter hensikten, kan den få betydning langt utover ChatGPT. Andre AI-plattformer kan bli presset til å innføre lignende tiltak for å beskytte unge brukere.

Det kan markere starten på en ny standard, der alderskontroll i økende grad håndteres automatisk og i bakgrunnen.

En balansegang mellom beskyttelse og frihet

For OpenAI handler utfordringen om å finne balansen mellom å beskytte unge og å gi fri tilgang til teknologi. For stramme grenser kan hemme læring, mens for åpne systemer kan innebære risiko.

Den nye alderskontrollen viser at diskusjonen om ansvarlig AI nå også handler om etikk, tillit og samfunnsansvar.

Kilder: Decrypt