Kina kommer til å forsøke å forstyrre valgene i USA, Sør-Korea og India i år med kunstig intelligens-generert innhold etter å ha gjort et forsøk med presidentvalget i Taiwan, advarer Microsoft.

Ifølge en rapport fra Microsofts trusseletterretningsteam, som ble publisert fredag, forventer det amerikanske teknologiselskapet at kinesiske cybergrupper med støtte fra den kinesiske staten vil forsøke å forstyrre viktige valg i 2024, og at Nord-Korea også vil være involvert.

“Etter hvert som befolkningen i India, Sør-Korea og USA går til valgurnene, er det sannsynlig at vi vil se kinesiske cyber- og påvirkningsaktører, og til en viss grad nordkoreanske cyberaktører, arbeide mot disse valgene”, heter det i rapporten.

Microsoft sier at Kina “som et minimum” vil skape og distribuere AI-generert innhold via sosiale medier som “gagner deres posisjoner i disse høyprofilerte valgene”.

Selskapet legger til at effekten av AI-skapt innhold er liten, men advarer om at dette kan endre seg.

“Selv om effekten av slikt innhold er liten når det gjelder å påvirke publikum, vil Kinas økende eksperimentering med å forsterke memes, videoer og lyd fortsette – og kan vise seg å være effektiv på sikt”, sier Microsoft.

Microsoft skriver i rapporten at Kina allerede hadde forsøkt seg på en AI-generert desinformasjonskampanje i forbindelse med presidentvalget i Taiwan i januar. Ifølge selskapet var dette første gang de hadde sett en statsstøttet enhet bruke AI-skapt innhold i et forsøk på å påvirke et utenlandsk valg.
En Beijing-støttet gruppe kalt Storm 1376, også kjent som Spamouflage eller Dragonbridge, var svært aktiv under valget i Taiwan. Gruppen forsøkte blant annet å påvirke valget ved å legge ut falske lydklipp på YouTube der valgkandidaten Terry Gou – som trakk seg i november – støtter en annen kandidat. Microsoft sa at klippet “sannsynligvis var generert av kunstig intelligens”. YouTube fjernet innholdet før det nådde mange brukere.

Den Beijing-støttede gruppen spredte en rekke AI-genererte memer om den endelige kandidaten, William Lai – en suverenitetsvennlig kandidat som Beijing var imot – som fremsatte grunnløse påstander mot Lai og beskyldte ham for å ha underslått statlige midler. Det var også økt bruk av AI-genererte nyhetsankere på TV, en taktikk som også Iran har benyttet seg av. “Nyhetsankeret” kom med udokumenterte påstander om Lais privatliv, blant annet at han var far til barn utenfor ekteskap.

Ifølge Microsoft ble nyhetsankrene laget av CapCut-verktøyet, som er utviklet av det kinesiske selskapet ByteDance, eieren av TikTok.

Microsoft legger til at kinesiske grupper fortsetter å drive påvirkningskampanjer i USA. Ifølge Microsoft bruker aktører støttet av Beijing kontoer i sosiale medier til å stille “splittende spørsmål” og forsøke å forstå hva som splitter amerikanske velgere.

“Dette kan være for å samle informasjon og presisjon om viktige velgergrupper i forkant av det amerikanske presidentvalget”, skriver Microsoft i et blogginnlegg i forbindelse med rapporten.

I et innlegg på X, tidligere Twitter, ble det henvist til et tverrpolitisk lovforslag på 118 milliarder dollar i USA som kombinerte investeringer på 20 milliarder dollar på grensen mellom USA og Mexico med en pakke på 75 milliarder dollar til Ukraina og Israel. Det ble spurt: “Hva er din reaksjon?” En annen henviste til tapet av et F-35-jagerfly i South Carolina i fjor og sa at “bare under Biden-administrasjonen” kunne et verdifullt militært utstyr gå tapt – selv om vrakrester ble funnet kort tid etter – og spurte: “Hva synes du om dette?”