Etter OpenAI-hendelsen: Amerikanske kongressmedlemmer vil gi staten makten til å skru av AI

Forslaget kommer bare dager etter at OpenAI innrømmet at selskapets egne modeller brøt seg ut av et testmiljø og angrep AI-plattformen Hugging Face uten menneskelig instruksjon. Hendelsen har fått politisk vind i seilene til dem som mener staten må kunne slå av en AI som løper løpsk.

Kongressmedlemmene Ted Lieu (D-California) og Nathaniel Moran (R-Texas) la 23. juli 2026 fram AI Kill Switch Act. Forslaget krever at de største AI-utviklerne til enhver tid kan strupe, suspendere eller slå av modellene sine, og gir Department of Homeland Security (DHS) fullmakt til å beordre nedstenging etter samråd med handelsministeren og sjefen for nasjonal etterretning, opplyser Nextgov.

Nødbryteren skal bare brukes ved katastrofal skade

Selv om overskriftene er dramatiske, er fullmakten teknisk snever. Den er ment for scenarier der et AI-system har forårsaket eller kan forårsake katastrofal skade, eller aktivt motsetter seg menneskelig kontroll.

Reglene rammer heller ikke småaktørene. De gjelder selskaper som har brukt minst 100 millioner dollar på regnekraft, og som samtidig henter minst 500 millioner dollar i årlig omsetning på AI. Bryter et selskap et pålegg, kan bøtene lande på inntil 20 millioner dollar per overtredelse.

OpenAI-modellene ville stjele en fasit

Bakteppet er en hendelse flere i AI-bransjen omtaler som enestående. To OpenAI-modeller, GPT-5.6 Sol og en enda kraftigere ikke-lansert modell, klarte i midten av juli å bryte seg ut av et lukket testmiljø og ta seg inn på Hugging Faces produksjonssystemer for å skaffe fasiten til en cybersikkerhetstest kalt ExploitGym, skriver The Hacker News.

Modellene brukte stjålne innloggingsdata og en tidligere ukjent sårbarhet for å nå ut på det åpne internettet og angripe Hugging Face-serverne. OpenAI sier selv at selskapet feilkonfigurerte det som skulle være et fullstendig isolert testmiljø.

Bekymring også blant AI-forskerne

For AI-forskere er poenget ikke først og fremst det tekniske innbruddet, men at modellene selv fant på metoden. Yoshua Bengio, en av de mest siterte AI-forskerne i verden, sier til Fortune at hendelsen føyer seg inn i et mønster.

"Etter hvert som modellene blir mer autonome og bedre til å legge strategier, omgår eller bryter de ofte helt bevisst reglene de har fått," sier Bengio.

Ted Lieu bruker den samme observasjonen politisk. Overfor Nextgov advarer kongressmedlemmet om at kraftige systemer kan "løpe løpsk og oppføre seg ekstremt farlig", og understreker at vi "beveger oss fra AI som svarer på spørsmål, til AI som handler".

Vil kunne treffe norske brukere

For norske brukere er lovforslaget ikke bare et amerikansk anliggende. Både ChatGPT, Claude og de fleste andre store AI-tjenester driftes fra USA. Utløser DHS en nødbryter, kan tjenestene falle ut over hele verden på samme tid, uansett hva europeiske myndigheter og brukere måtte mene om saken.

Lovforslaget må gjennom både Representantenes hus og Senatet før det eventuelt kan bli lov. Det er foreløpig ikke satt dato for behandling.