Gjemt i Metas milliardforlik: Selskapet får lov til å beholde barns data for AI-trening

Da Meta onsdag inngikk forlik med 29 amerikanske delstater på opptil 18 milliarder dollar (om lag 190 milliarder kroner), ble oppgjøret rammet inn som en historisk seier for barns nettsikkerhet. Nå viser en gjennomgang av avtaleteksten at selskapet samtidig får en juridisk fribillett til å beholde data fra brukere under 13 år, så lenge dataene brukes til å trene modeller som gjetter alderen på brukerne.

Klausulen er begravd i forliket som ble annonsert 26. august og ble først løftet frem av TechCrunch dagen etter. Delstatsadvokatene har gått med på "fully, finally, and forever" å avstå fra fortidige, nåværende og fremtidige krav under den amerikanske barneloven COPPA, når det gjelder nettopp Metas bruk av barns data til aldersgjenkjenning.

Et forlik som skulle beskytte barn

Søksmålet ble reist av 29 delstater i 2023 og anklaget Meta for bevisst å ha designet Facebook og Instagram slik at de gjorde barn og unge avhengige, samtidig som selskapet skal ha samlet inn data om brukere under 13 år uten foreldresamtykke. Meta erkjenner ikke skyld i forliket.

Betalingen på 17 milliarder dollar til de 29 delstatene, pluss oppgjør med øvrige stater og territorier, utbetales i årlige transjer over ti år og skal gå til delstatsprogrammer for ungdoms mental helse og opplæring i nettsikkerhet.

Les også: Svindlere bruker AI til å jukse på Vinted: Plattformen svarer med konkrete råd til selgere

Blant de konkrete endringene som følger med, er en standard dagsgrense på to timer for brukere under 18 år, blokkering av appene mellom midnatt og klokken seks om morgenen, og et "skolemodus" som demper varsler mellom klokken åtte og tre på dagtid. Selskapet må også skjule likerklikk på mindreåriges kontoer og innføre ikke-personaliserte strømmer innen fire måneder, ifølge en gjennomgang fra Al Jazeera.

Data i bytte mot aldersgjenkjenning

Alle disse restriksjonene forutsetter én ting: at Meta faktisk klarer å identifisere hvem som er under 18. Derfor er selskapet forpliktet til å utvikle og begynne å teste en aldersgjenkjenningsmodell innen ett år etter at avtalen trer i kraft. Og det er her klausulen om barns data kommer inn.

Meta har fortsatt ikke lov til å bruke data fra brukere under 13 år til annonsemålretting, markedsføring eller algoritmisk optimalisering. Men til å trene aldersgjenkjennings-modellene, har delstatene altså skrevet under på at COPPA-krav ikke skal komme.

Personvernadvokat Philip N. Yannella i firmaet Blank Rome mener rammene er innenfor det som er vanlig. "Denne typen dataminimering er ganske vanlig i personvernarbeid," sier han til TechCrunch. Kollegaen Joshua Wurtzel i Schlam Stone & Dolan peker på at grensene har en bakside: bruker Meta dataene utenfor det avtalen tillater, gjelder heller ikke fritakelsen fra søksmål.

Les også: Batteri lades fullt på tre minutter og tåler 60.000 sykluser: Men mobilen din må vente

Advokat Peter Jackson i Greenberg Glusker er mer kritisk. Han mener konstruksjonen "kan svekke insentivet til fremtidige håndhevingssaker" fra myndighetenes side. En uavhengig revisor skal overvåke at Meta holder seg innenfor rammene.

Teknologien som skal bære det hele

En egen bekymring henger over hele forliket: aldersgjenkjenning fungerer i praksis ikke særlig godt. Dr. Alexis Ingber, kommunikasjonsforsker ved Syracuse University, sier til TechCrunch at "måten vi gjør det på i dag, fungerer ikke ordentlig", og at teknologiene "stort sett har mislyktes". Metoder som selfie-baserte biometriske skanninger, ID-sjekk og analyse av atferdsmønstre har alle svakheter, fra feilklassifisering til å tvinge brukere til å dele sensitive personopplysninger.

Metas juridiske direktør C.J. Mahoney har tatt til orde for at problemet må løses på tvers av selskapene. "Fordi tenåringer beveger seg flytende mellom titalls apper, trenger vi en løsning på tvers av bransjen," sier han og oppfordrer konkurrentene til å innføre lignende rammer.

For norske foreldre med barn på Instagram innebærer forliket at Meta det neste året skal begynne å gjette hvem av brukerne som er under 18, og at treningsdataen som gjør det mulig, i noen tilfeller kan komme fra barna selv. EU-kommisjonen har allerede signalisert at den venter på at Meta forplikter seg tilsvarende under Digital Services Act, og sier at "ballen ligger hos Meta".

Les også: Ladet elbilen for 20 kroner: Fikk regning på 170.000 kroner 15 måneder senere

Les også: Kjøper du elbil? Din faste mekaniker kan verken ville eller ha lov til å ta den inn