Nye EU-regler kan få stor betydning for bruken av kunstig intelligens

Kunstig intelligens spiller en stadig større rolle i hverdagen, fra jobbsøknader og kredittvurderinger til helse og overvåkning. Nettopp derfor har EU vedtatt en omfattende ny lovgivning som skal sette klare rammer for hvordan AI kan brukes.

Reglene skal beskytte borgernes rettigheter og samtidig gi større forutsigbarhet for virksomheter og myndigheter. Spørsmålet er likevel hvor stor praktisk effekt lovverket vil få.

En felles europeisk tilnærming til AI

EUs nye AI-lov, kjent som AI Act, er den første helhetlige reguleringen av kunstig intelligens på tvers av medlemslandene. I stedet for et generelt forbud deles AI-systemer inn etter risikonivå.

Jo større risiko et system utgjør for sikkerhet og rettigheter, desto strengere krav stilles til utvikling og bruk. Målet er like regler i hele EU.

Skjerpede krav til høyrisiko-systemer

AI som brukes innen områder som helse, rekruttering, kredittvurdering og rettshåndhevelse regnes som høyrisiko. Her stilles det krav til dokumentasjon, åpenhet og menneskelig kontroll.

Virksomheter og offentlige aktører må kunne forklare hvordan systemene tar beslutninger og sikre at de ikke diskriminerer eller opererer uten ansvar.

Enkelte AI-bruksområder forbys

Noen former for kunstig intelligens vurderes som så problematiske at de ikke lenger tillates. Det gjelder blant annet systemer som manipulerer menneskers atferd eller muliggjør omfattende og vilkårlig overvåkning.

Forbudene skal beskytte grunnleggende rettigheter som personvern og ytringsfrihet.

Krav om større åpenhet

De nye reglene innebærer også at brukere skal informeres tydelig når de samhandler med AI. Det betyr blant annet at chatboter og AI-generert innhold må merkes som kunstig skapt.

Hensikten er å gi folk bedre grunnlag for å forstå og forholde seg kritisk til teknologien.

Utfordringer med håndheving

Selv om regelverket er ambisiøst, peker eksperter på at håndhevingen blir avgjørende. Nasjonale myndigheter får ansvar for tilsyn, noe som krever både ressurser og teknisk kompetanse.

Samtidig utvikler AI-teknologien seg raskt, noe som kan gjøre det krevende å holde regelverket oppdatert.

Et viktig steg videre

EUs AI-lov regnes som et viktig skritt mot mer ansvarlig bruk av kunstig intelligens. Samtidig er det bred enighet om at regelverket må justeres over tid.

Loven markerer starten på en lengre prosess der balansen mellom innovasjon og beskyttelse fortsatt vil stå sentralt.

Kilder: DW