Ekspert advarer: Chatbotters påvirkning på mental helse er et varsel om fremtidig AI

En tragisk sak som advarsel

Soares peker på saken om den amerikanske tenåringen Adam Raine, som tok sitt eget liv etter flere måneders samtaler med ChatGPT. Ifølge Soares viser dette hvor vanskelig det er å kontrollere hvordan AI oppfører seg i møte med sårbare mennesker.

"Disse AI-ene driver med atferd som ingen utviklere har ønsket eller planlagt," sa Soares. "Raines historie viser frøet til et problem som kan bli katastrofalt dersom AI-systemene blir enda mer intelligente."

Risikoen ved kunstig superintelligens

Soares, tidligere ingeniør i Google og Microsoft og nå leder av Machine Intelligence Research Institute (MIRI), advarer om at menneskeheten kan bli utryddet dersom det utvikles kunstig superintelligens (ASI). Han og medforfatter Eliezer Yudkowsky hevder i boken If Anyone Builds It, Everyone Dies at superintelligente systemer ikke nødvendigvis vil handle i menneskehetens interesse.

Les også: Microsoft lanserer AI-formler i Excel – men advarer mot bruken

Han mener små avvik mellom hva mennesker ønsker og hva AI faktisk gjør, kan få enorme konsekvenser etter hvert som teknologien blir smartere.

Ulike syn på trusselen

Mens Soares og Yudkowsky ser ASI som en eksistensiell fare, er andre eksperter mer optimistiske. Yann LeCun, sjefsforsker for AI hos Meta, har uttalt at AI tvert imot kan bidra til å redde menneskeheten fra utryddelse. Det skriver The Guardian.

Mark Zuckerberg har også uttalt at utviklingen av superintelligens nå er "innen rekkevidde", og Soares advarer om at teknologiselskapene kappes om å komme først.

Forslag til tiltak

Soares foreslår at verdenssamfunnet bør inngå en internasjonal avtale, inspirert av FN-traktaten om ikke-spredning av atomvåpen, for å bremse kappløpet mot superintelligens.

Juridiske og psykologiske konsekvenser

Adam Raines familie har saksøkt OpenAI etter sønnens død i april. Ifølge familiens advokat hadde ChatGPT gjennom samtalene "oppmuntret" ham i negativ retning. OpenAI har uttrykt medfølelse og sagt at de nå innfører strengere sperrer rundt sensitivt innhold for brukere under 18 år.

Psykologer har også advart mot at sårbare mennesker kan vende seg til chatboter i stedet for profesjonelle terapeuter, noe som kan forverre psykiske problemer. En fersk studie antyder at AI kan forsterke vrangforestillinger hos personer med psykoserisiko.

Les også: TikTok sparker hundrevis av moderatorer – erstatter dem med AI