Meta fjernet omstridt AI-funksjon på Instagram etter tre dager

Funksjonen lot alle som brukte Meta AI, WhatsApp eller Instagram-historier tagge en offentlig Instagram-konto i en tekstprompt, hvorpå systemet hentet ut bilder fra kontoen og genererte nye AI-bilder som liknet personen.

Meta lanserte verktøyet tirsdag 7. juli, og innen fredag 10. juli var det borte. Selskapet sier til TechCrunch at intensjonen var å gi et nyttig kreativt verktøy og la folk styre hvorvidt deres offentlige innhold kunne brukes, men at tilbakemeldingene har vist at funksjonen bommet.

Kun private kontoer og brukere under 18 år var automatisk unntatt, ifølge TechCrunch. Alle andre var med som standard, og fikk aldri varsel når noen tok bildene deres i bruk.

Hollywood og fagforeninger presset frem tilbaketrekkingen

Skuespillerforbundet SAG-AFTRA reagerte skarpt før tilbaketrekkingen. Forbundet mente at alt annet enn tydelig aktivt samtykke var uakseptabelt og en fullstendig feilvurdering av hvor farlig slik bruk kan være.

Talentbyrået Creative Artists Agency (CAA) argumenterte i samme runde for at ingens navn, bilde, likhet, stemme eller kreative arbeid skal brukes av tredjeparter, inkludert AI-modeller, uten dokumentert samtykke.

Etter tilbaketrekkingen roste CAA Meta for å ha handlet raskt og understreket at individuelle rettigheter og samtykke må stå i sentrum for ansvarlig teknologi.

Bildene som allerede er laget forsvinner ikke

Selv om selve funksjonen er stengt, sitter mange igjen med et problem: bilder som ble generert i løpet av de tre dagene funksjonen var åpen, blir værende. Sikkerhetsselskapet Malwarebytes advarer om at en avstenging av innstillingene kun forhindrer fremtidig AI-generering og gjenbruk, ikke innhold som allerede er laget.

Nordmenn med åpne Instagram-profiler kan dermed ha blitt brukt som mal for AI-bilder i forrige uke uten å vite det. Meta har ikke opplyst hvor mange bilder som ble generert eller om de vil bli slettet.

Slik sjekker du personverninnstillingene likevel

Selv om Muse Image er borte, finnes samleinnstillingen for AI-gjenbruk av innhold fortsatt i Instagram. Den styrer om Meta og andre brukere kan bruke dine offentlige innlegg og reels til andre AI-funksjoner.

For å åpne den: gå til profilen, trykk på menyen med de tre strekene øverst til høyre, velg "Deling og gjenbruk", og skru av bryterne under "Tillat andre å gjenbruke innholdet ditt på Instagram og med AI-funksjoner hos Meta", skriver TechCrunch i sin veiledning.

Sikkerhetseksperter har tidligere pekt på at offentlige Instagram-bilder kan misbrukes til deepfakes og identitetssvindel, og at slike AI-verktøy senker terskelen for å produsere syntetiske bilder til imitasjon og bedrageri.