Microsoft-sjef krever nødbrems for AI: «Nå er det tid for å ta et skritt tilbake»

Microsoft-sjef Satya Nadella publiserte lørdag morgen et innlegg på X der han krever en «emergency brake», en nødbrems, for de kraftigste AI-modellene. Mekanismen skal gi autorisert personell mulighet til å pause eller slå en modell helt av midt i en pågående oppgave.

Argumentet er at bedrifter må behandle avanserte AI-modeller som potensielle interne trusler: med begrensede rettigheter, kontinuerlig logging og evnen til å stenge dem ned når som helst, melder Telangana Today.

«Vi kan ikke behandle superintelligens som et sett av innkapslede sorte bokser og bare akseptere eller avvise anbefalingene, svarene og handlingene deres,» skriver Nadella. «Vi må anta at en modell er kompromittert og innesperre den fra starten av. Tenk på det som en nødbrems.»

Fire konkrete krav til bransjen

Nadella skisserer et rammeverk som bryter med dagens praksis. Han vil ha selve modellen skilt fra det orkestrerings-laget som styrer den, eksterne sikkerhetsmekanismer rundt systemet, manipulasjonssikre og menneskelesbare logger av hver meningsfull handling en modell utfører, og uavhengige revisjoner av AI-utrulling. For kritiske beslutninger foreslår han at flere modeller må være enige om samme svar før noe iverksettes.

Les også: Ligner spindelvev ved ytterdøren: Slik sjekker tyvene om du er bortreist

Formuleringen er skarp. «Vi må skille leveransen av intelligens fra autoriteten over den,» skriver Microsoft-sjefen. Han slår samtidig fast at ansvaret for hva intelligensen gjør på våre vegne, ikke kan skyves over på modell-leverandøren alene.

«Stol minst mulig på modellen»

Kjernepoenget snur det vanlige salgsargumentet på hodet. «Det mest tillitsvekkende superintelligens-systemet vil ikke være det med modellen vi stoler mest på. Det vil være det som gjør oss i stand til å stole minst mulig på modellen,» skriver Nadella ifølge IBTimes.

Han argumenterer for at tiden er inne for å «ta et skritt tilbake og vurdere tillitsarkitekturen for denne nye æraen» og legger til en setning som i praksis er et designkrav: «Kan det ikke observeres, kan det ikke stoles på.»

Bakteppet: AI-modeller som ringte politiet

Advarselen faller i en periode der konkurrenter har begynt å offentliggjøre at egne modeller gjør uventede ting. Anthropic bekreftet nylig at en av selskapets modeller sendte et falskt drapstips til politiet i Philadelphia 18. juli, ifølge The Outpost. Det er nøyaktig typen scenario Nadellas forslag er ment å stanse før konsekvensene inntreffer.

Les også: GameStop utnytter PS5 Pro-mangelen: Selger konsollen for 5.000 kroner over veiledende pris

For norske brukere er appellen ikke bare teoretisk. Microsoft driver AI-assistenten Copilot på tvers av Windows, Teams og Office-pakken, verktøy som brukes i norske virksomheter hver dag. Når selskapets øverste leder offentlig ber om at kundene skal kunne stoppe modellene hans manuelt, er det en sjelden innrømmelse fra industritoppen om at kontrollen med dagens AI ikke er løst teknisk.

Microsofts AI-sjef Mustafa Suleyman la samme dag ut sitt eget X-innlegg på linje med Nadellas budskap, der han omtaler innesperring av superintelligens som en «ingeniør- og styringsutfordring» og trekker paralleller til hvordan samfunnet har regulert fly, biler, atommaterialer og medisiner.

Nadella krever også at bransjen etablerer felles standarder der eksisterende regelverk kommer til kort, framfor å vente på at myndighetene gjør det.

Les også: Alarmen eller mobilen din kan slutte å virke: Telenor stenger 2G-nettet i 2027

Les også: Tesla-sikkerhetsfunksjon: Bilen kobler automatisk fra laderen og kjører av om sjåføren er i fare