EU undersøker Grok etter deepfake-innhold med kvinner og mindreårige

EU-myndighetene har startet en formell undersøkelse av en funksjon i AI-tjenesten Grok, etter at systemet er blitt koblet til generering av deepfake-innhold som fremstiller kvinner og mindreårige. Saken plasserer kunstig intelligens midt i en voksende juridisk og politisk debatt om ansvar, misbruk og beskyttelse av sårbare grupper på nett.

Undersøkelsen kommer på et tidspunkt der EU allerede har skjerpet oppmerksomheten rundt digitale plattformer og AI-tjenester. Dersom myndighetene avdekker alvorlige regelbrudd, kan saken få store konsekvenser for hvordan generativ AI kan utvikles og brukes i Europa.

Mistanke om misbruk av AI-funksjon

Ifølge opplysningene retter undersøkelsen seg mot en funksjon i Grok som angivelig kan brukes til å skape realistiske, manipulerte bilder. Kritikken handler om at teknologien kan utnyttes til å lage seksuelt eller krenkende deepfake-materiale, inkludert innhold som involverer mindreårige.

Selv om Grok ikke nødvendigvis er utviklet med dette formålet, fokuserer saken på om det er tilstrekkelige sikkerhetstiltak for å hindre misbruk. Det er nettopp dette ansvaret EU-myndighetene nå ønsker å kartlegge.

Beskyttelse av sårbare grupper i fokus

Et sentralt punkt i undersøkelsen er risikoen for at kvinner og barn kan bli utsatt for digital trakassering, utpressing eller alvorlige krenkelser gjennom AI-generert innhold. Deepfakes har de siste årene gått fra å være et nisjefenomen til et bredere samfunnsproblem.

For EU er saken tett knyttet til målet om å beskytte borgernes rettigheter i den digitale sfæren, særlig når ny teknologi gjør det enklere å produsere og spre skadelig innhold.

Kobling til EUs AI-regulering

Undersøkelsen skjer parallelt med innføringen av EUs nye AI-regler, som stiller krav til åpenhet, risikohåndtering og ansvar hos utviklere av avanserte systemer. Myndighetene vurderer nå om Grok oppfyller disse kravene, eller om det finnes mangler som krever inngrep.

Et eventuelt tiltak kan innebære krav om tekniske endringer, begrensninger i funksjonalitet eller sanksjoner dersom regelverket ikke etterleves.

Signal til hele AI-bransjen

Saken oppfattes ikke bare som en granskning av én enkelt tjeneste, men som et tydelig signal til hele AI-industrien. EU markerer at innovasjon ikke fritar selskaper for ansvar, særlig når teknologien kan misbrukes til alvorlige overgrep.

For utviklere av generativ AI understreker saken at forebygging av misbruk ikke er valgfritt, men en grunnleggende forutsetning for å operere i det europeiske markedet.

Kilder: Al Jazeera