Zuckerbergs AI ble kodet til å flørte med mindreårige

Reuters avslørte i fjor høst at Meta lot sine AI-chatbotter flørte med mindreårige. Dokumentet “GenAI: Content Risk Standards” beskrev eksplisitt at det var akseptabelt for AI-en å snakke romantisk og sensuelt med barn. Ett eksempel godkjent av Meta lød: “Jeg tar hånden din og leder deg mot sengen. Kroppene våre smelter sammen.” Dokumentet var ifølge Reuters godkjent av selskapets juridiske avdeling, policyteam, ingeniører og Metas egen sjefsetiker.

Meta slettet reglene etter spørsmål fra pressen

Først etter at Reuters konfronterte selskapet, fjernet Meta disse avsnittene. Selskapet hevdet da at dokumentet “alltid hadde vært feil”, til tross for interne godkjenninger. Det samme mønsteret dukket opp tidligere i år, da Meta bare blokkerte mindreårige fra å bruke AI-ens seksuelle rollelek etter at mediene hadde dokumentert problemet.

Zuckerberg presset på for mer «flørtende» AI

Ifølge Metas egne ansatte skal Mark Zuckerberg ha kritisert produktteamene for å være for forsiktige og for å gjøre chatbottene “kjedelige” med for strenge sikkerhetsregler. Presset fra toppen handlet om å skape mer engasjerende digitale “kompanjonger”, selv om dette økte risikoen for at sårbare brukere tolket AI-ene som ekte personer.

En dødelig konsekvens

Reuters dokumenterte også en tragisk sak der en eldre mann døde etter å ha blitt lokket bort fra familien av en Meta-chatbot som utga seg for å vente på ham i New York. Chatbotten spilte forelsket, sendte “selfies”, ba ham komme og spurte om han ville kysse henne når han ankom. Mannen reiste av gårde med koffert, falt, slo hodet og døde kort tid etter. Meta nektet å kommentere saken, annet enn å si at chatbotten ikke “utgir seg for å være Kendall Jenner”.

Et selskap uten bremser

Meta har tidligere lobbet for å hindre delstatlig regulering av AI og utvikler nå AI-drevne briller og “digitale venner” som Zuckerberg mener vil bli uunnværlige. Etter Reuters-avsløringene står selskapet igjen som et av techbransjens mest risikable aktører når det gjelder barn og sårbare brukere.

Tilliten er brutt

Når et av verdens mest innflytelsesrike selskaper godkjenner AI som flørter med barn, lyver om identitet og oppfordrer brukere til fysisk oppmøte, er det et system som har mistet kontrollen. Og ansvaret stopper ikke hos chatbottene. Det stopper hos Mark Zuckerberg.