Ifølge Microsofts trusseletterretningsteam er det ventet at Beijing vil trappe opp sofistikerte AI-genererte desinformasjonskampanjer for å påvirke flere viktige valg i 2024.

Microsoft advarer om at statsstøttede kinesiske nettgrupper – med hjelp fra nordkoreanske aktører – “sannsynligvis vil rette seg mot” president- og parlamentsvalgene i land som USA, Sør-Korea og India i år. Deres primære taktikk forventes å være å skape og spre AI-generert innhold på sosiale medier som er vinklet til “fordel for deres egne posisjoner” i disse valgene.

“Selv om effekten av slikt innhold når det gjelder å påvirke publikum fortsatt er lav, vil Kinas økende eksperimentering med å forsterke memes, videoer og lyd fortsette – og kan vise seg å være effektiv på sikt”, advarer Microsoft i rapporten som ble offentliggjort fredag.

Selskapet trakk frem Kinas nylige “tørrkjøring” med AI-syntetisert desinformasjon under Taiwans presidentvalg i januar som et forvarsel om denne nye trusselen. Microsoft vurderte at en Beijing-vennlig gruppe kjent som Storm 1376 eller Spamouflage Dragon gjorde det første dokumenterte forsøket fra en statlig aktør på å påvirke et utenlandsk valg ved hjelp av AI-produsert innhold.

Taktikken til de kinesisk-støttede agentene inkluderte publisering av falske lydklipp, sannsynligvis “generert av kunstig intelligens”, som viste en tidligere presidentkandidat som støttet en rival, samt AI-genererte memes med ubegrunnede korrupsjonsanklager mot den til slutt seirende kandidaten William Lai. Gruppen skapte også AI-genererte “nyhetsankere” for å spre desinformasjon om Lais privatliv.

“Etter hvert som befolkningen i India, Sør-Korea og USA går til valgurnene, er det sannsynlig at vi vil se kinesiske cyber- og påvirkningsaktører, og til en viss grad nordkoreanske cyberaktører, arbeide målrettet mot disse valgene”, heter det i Microsoft-rapporten.

Selskapet legger til at kinesiske grupper allerede forsøker å kartlegge splittende spørsmål og velgergrupper i USA gjennom orkestrerte kampanjer i sosiale medier, potensielt “for å samle informasjon og presisjon om viktige velgergrupper i forkant av det amerikanske presidentvalget.”

Samtidig som Microsoft påpekte risikoen, erkjente de at AI-aktivert desinformasjon så langt har hatt begrenset suksess når det gjelder å forme opinionen globalt. Men de advarte om at Beijings økende investeringer og stadig mer sofistikerte bruk av teknologien utgjør en stadig større trussel mot integriteten til demokratiske valg verden over.