EU går etter AI-«naken-generatorer» i stor opprydding etter global reaksjon

Europeiske lovgivere arbeider med nye restriksjoner på kunstig intelligens i takt med økende bekymring for misbruk.

Tiltaket kommer etter økende reaksjoner på eksplisitte bilder laget uten samtykke.

Forslaget retter seg mot et kontroversielt område innen AI-utvikling som har skapt uro i flere land.

Lovgivere handler

Ifølge AFP har medlemmer av Europaparlamentets komité for sivile rettigheter godkjent planer om å forby AI-systemer som genererer seksualiserte deepfakes.

Tiltaket retter seg spesielt mot såkalte «nudification»-apper, som kan lage falske eksplisitte bilder av personer uten deres tillatelse.

En endelig avstemning i Europaparlamentet er planlagt til 26. mars.

Økende bekymring

Initiativet kommer etter global kritikk knyttet til ikke-samtykkebaserte bilder relatert til Elon Musks chatbot Grok.

Lovgivere mener slike verktøy allerede har forårsaket skade, særlig for kvinner og mindreårige.

«Dette er en stor seier, spesielt for kvinner og barn i Europa», sa Kim van Sparrentak fra De grønne, og advarte om de emosjonelle konsekvensene for ofrene.

Krav om tiltak

Den irske politikeren Michael McNamara, som leder arbeidet med lovforslaget, sa at målet er å fjerne skadelige applikasjoner drevet av profitt.

Han beskrev verktøyene som «nudification-apper uten samtykke, som har påført mye smerte for andres fortjeneste».

Forslaget bygger videre på bredere tiltak for å stramme inn EUs regler for kunstig intelligens.

Plattformenes respons

Teknologiselskaper har også blitt presset til å reagere. I januar sa X at de har «nulltoleranse» for seksualiserte deepfakes som involverer kvinner og barn.

Plattformen, hvor Grok er tilgjengelig, annonserte nye tiltak for å forhindre slikt innhold.

Samtidig har Europakommisjonen startet en etterforskning av chatboten under EUs digitale regelverk.

Kilder: AFP, The News International