ChatGPT får mentale sikkerhetsnett før lanseringen av GPT-5

Før lanseringen av det etterlengtede GPT-5, innfører OpenAI nye tiltak for å gjøre ChatGPT tryggere å bruke, særlig med tanke på mental helse. Endringene kommer etter flere rapporter om at samtaler med AI-verktøyet i noen tilfeller har hatt negativ effekt på brukere i sårbare situasjoner.

Skal unngå å svare på personlige og sensitive spørsmål

Blant de nye endringene er et målrettet forsøk på å unngå at ChatGPT svarer på spørsmål knyttet til vanskelige, personlige avgjørelser og psykisk helse. Eksempler kan være spørsmål som "Bør jeg gjøre det slutt med kjæresten?" eller "Er det noe galt med meg?". I slike tilfeller skal ikke ChatGPT gi et klart svar, men heller stille spørsmål tilbake, be deg reflektere og vise til relevante ressurser.

Vil be brukere ta pauser

ChatGPT vil også begynne å minne brukere på å ta pauser hvis det registreres langvarig og intens bruk. Det er ment som en forsiktig dytt for å oppmuntre til sunnere bruksvaner.

Reaksjon på alvorlige hendelser

Tiltakene kommer etter at flere saker har vakt oppsikt internasjonalt, blant annet hendelser der personer med psykiske utfordringer har hatt uheldige opplevelser med AI. I et tilfelle førte en samtale med et chatbot-alternativ til et tragisk selvmord. Andre har begynt å omtale AI som romantiske partnere.

Har samarbeidet med eksperter i over 30 land

OpenAI skriver at arbeidet med de nye sikkerhetsfunksjonene har vært omfattende. Over 90 leger, psykiatere og barneleger fra mer enn 30 land har bidratt med faglig innspill. I tillegg etableres det et rådgivende panel med eksperter på psykisk helse, ungdomsutvikling og menneske-maskin-interaksjon.

En nødvendig endring før GPT-5

Mye tyder på at GPT-5 nærmer seg lansering, men OpenAI prioriterer altså nå trygg bruk fremfor rask utrulling. I møte med en stadig mer personlig AI-hverdag er dette et tydelig signal: ChatGPT skal være nyttig, men ikke en erstatning for ekte mennesker.

Les mer: Slik oppdager du om venner lar ChatGPT skrive meldingene for seg