TikTok innrømmer: AI-spam skyver ekte skapere ut av feeden

Selskapet lanserer nå et nytt læringsverktøy inne i appen og tester samtidig strammere systemer for å luke ut kontoer som spyr ut AI-slop i stort volum. Kunngjøringen ble publisert på TikToks nyhetsrom 10. juli.

I den offisielle uttalelsen skriver TikTok at teknologien har åpnet nye muligheter, men også en bakside: "etter hvert som teknologien utvikler seg, kan den også misbrukes til å masseprodusere spam som fortrenger originale skapere", heter det i pressemeldingen på TikToks nyhetsrom.

At en av verdens største plattformer nå bruker ord som "fortrenger" om egne brukere, markerer et taktskifte. Fram til nå har store aktører helst omtalt AI-innhold som en mulighet, ikke som en trussel mot fellesskapet på plattformen.

Nytt verktøy skal lære deg å avsløre AI

Kjernen i tiltakspakken er en ny hub inne i selve appen. Når du søker på AI-relaterte begreper, skal du få opp praktiske råd om hvordan man kjenner igjen AI-generert innhold. Hubben er utviklet sammen med den amerikanske organisasjonen National Association for Media Literacy Education (NAMLE) og AI-eksperten Henry Ajder, som spesialiserer seg på syntetiske medier og deepfakes.

TikTok opplyser at hubben rulles ut i løpet av de kommende ukene, ifølge Social Media Today.

Verktøyet består av videoforklaringer og en skriftlig guide til å tolke AI-innhold. Målet er at brukerne selv skal kunne se forskjell på ekte og syntetiske klipp, blant annet ved å se etter uregelmessigheter i hender, øyne, tekst i bakgrunnen og lyd som ikke matcher munnbevegelser.

Skjerpet jakt på spam-kontoer

Parallelt tester TikTok forbedrede deteksjonssystemer som skal fange opp kontoer dedikert til AI-generert spam. Innsatsen er særlig rettet mot tre områder som anses som høyrisiko: politikk og aktuelle hendelser, økonomiske råd og medisinsk informasjon.

Skalaen er betydelig. I første kvartal av 2026 fjernet TikTok mer enn 86 millioner falske kontoer globalt, opplyser plattformen. Selskapet har også merket over tre milliarder videoer som AI-generert ved bruk av en kombinasjon av Content Credentials, brukerdeklarasjoner og usynlig vannmerking.

Tom Varghese, som leder AI-arbeidet i TikToks globale offentlige politikk-avdeling, sier til bransjenettstedet TechMoran at målet er å gi brukerne et bedre grep om det de ser: "Vi mener folk skal ha kontekst, tillit og kontroll over sin opplevelse med AI på TikTok."

Del av bredere bransjebevegelse

TikTok kunngjorde samtidig at selskapet slutter seg til styringsgruppen i C2PA, standarden som ligger bak Content Credentials. Bak samarbeidet står blant andre Adobe, Microsoft og OpenAI. Målet er å gjøre det mulig å spore hvor et bilde eller en video stammer fra, og om den er redigert eller generert av en AI-modell.

Bakteppet er et voksende problem på tvers av alle store plattformer. AI-slop, altså masseprodusert lavkvalitetsinnhold laget av generative modeller, har fylt både Facebook, Instagram og YouTube det siste året. For TikTok, som er blant de mest brukte appene blant unge nordmenn, betyr innrømmelsen at selskapet nå erkjenner problemet offentlig, ikke bare bak lukkede dører.

Om verktøyene faktisk demper flommen av syntetisk innhold, gjenstår å se. Foreløpig hviler mye av ansvaret på brukerne selv.