OpenAI stenger mistenkt russisk propagandanettverk som utnyttet AI

OpenAI opplyste at selskapet har stengt en gruppe ChatGPT-kontoer som angivelig var knyttet til en russisk påvirkningsoperasjon, og dermed fratatt dem tilgang til sine AI-verktøy.

Tiltaket ble beskrevet i en selskapsrapport som forklarer hvordan modellene ble brukt til å støtte koordinert nettaktivitet.

Innholdsfabrikk-taktikk

I rapporten fra 26. februar, “Disrupting malicious uses of our models,” beskrev OpenAI en casestudie kalt “Fish Food” som involverte kontoer tilknyttet det russiske prosjektet “Rybar.”

Ifølge selskapet brukte nettverket ChatGPT til å produsere innlegg på russisk, engelsk og spansk. Noe av innholdet ble senere publisert via kontoer under “Rybar”-navnet.

OpenAI sa at mønsteret lignet en innholdsfabrikk for bred distribusjon. I ett eksempel genererte én enkelt prompt sju utkast, hvorav seks senere ble publisert på ulike X-kontoer.

Afrika-fokusert planlegging

Rapporten opplyste at hovedkontoen også brukte ChatGPT til å utarbeide forslag og beskrive påvirkningstjenester.

Dette inkluderte å oversette en liste over tjenester til engelsk, blant annet drift av X- og Telegram-kontoer og en tospråklig undersøkende nettside med fokus på Afrika.

Planleggingsdokumenter refererte til betalte plasseringer i franskspråklige medier, bygging av forsterkernettverk og valgrelaterte strategier i land som Den demokratiske republikken Kongo, Burundi, Kamerun og Madagaskar. Ett forslag hadde et anslått årlig budsjett på opptil 600.000 dollar.

Tilgang fjernet

OpenAI opplyste at kontoene knyttet til “Rybar”-nettverket er stengt, og at relevante indikatorer er delt med andre aktører for å begrense videre spredning av materialet.

Offentliggjøringen understreker bredere bekymringer om misbruk av generativ AI i koordinerte påvirkningsoperasjoner, inkludert bruk av syntetiske medier og utgivelse for å være andre.

Kilder: OpenAI, rapport 26. februar