Lovforslag på vei gjennom delstatens lovgivende forsamling forsøker å stanse bruken av AI-teknologi i politikken – men noen høyreekstreme aktivister er imot

Når man jobber med lovgivning, er det noen ganger best å sondere terrenget foran seg.

I Georgia høres det ut som senator Colton Moore. Men det høres bare ut som Colton Moore.

Todd Jones, en republikansk delstatsrepresentant som leder Georgia House Committee on Technology and Infrastructure Innovation, har foreslått et lovforslag som forbyr bruk av kunstig intelligens (deepfakes) i politisk kommunikasjon. For å illustrere poenget presenterte Jones en deepfake-video for justiskomiteen med et AI-bilde og lyd av Moore og Mallory Staples, en tidligere republikansk kongresskandidat som nå driver den høyreekstreme aktivistorganisasjonen Georgia Freedom Caucus.

Videoen bruker et AI-verktøy til å imitere stemmene til Moore og Mallory og gir falsk støtte til lovforslaget. Videoen inneholder en fortløpende ansvarsfraskrivelse nederst med henvisning til lovteksten.

Moore og Mallory er motstandere av lovforslaget.

AI-imitasjonen av Moore sier:

“Jeg vil spørre komiteen: Hvordan er det å bruke mine biometriske data, som min stemme og likhet, til å skape medier som støtter en politikk som jeg tydeligvis ikke er enig i, den første endringsretten til en annen person?”

 

Videoen fortsetter:

“Et overveldende antall georgiere mener at bruk av mine personlige egenskaper mot min vilje er svindel, men lovene våre gjenspeiler ikke dette. Hvis kunstig intelligens kan brukes til å få Colton Moore til å tale for et populært lovforslag, kan den brukes til å få hvem som helst av dere til å si ting dere aldri har sagt.”

Brad Thomas, den republikanske medforslagsstilleren og medforfatteren av videoen, sier at han og kollegene hans har brukt allment tilgjengelige verktøy for å lage videoen.

“Den vi brukte, kostet rundt 50 dollar. Med en versjon til 1000 dollar ville ikke din egen mor kunne se forskjellen”, sier han.

Ifølge Thomas ligger utviklingen av visuelle AI-verktøy mange år foran lovgivningen som trengs for å forhindre misbruk:

“Video i kinematografisk stil. Disse personene ser helt ekte ut, og de er AI-generert.”

Lovforslaget ble vedtatt av komiteen med stemmetallene 8-1.

Moore er ikke populær i Georgias lovgivende kretser. I september ble han kastet ut av den republikanske partigruppen av sine kolleger i delstatssenatet, anklaget for å ha kommet med falske uttalelser om andre konservative mens han forgjeves arbeidet for en ekstraordinær sesjon for å få avsatt Fulton Countys aktor Fani Willis.

I forrige uke ble Moore permanent utestengt fra Georgia House etter å ha angrepet den avdøde taleren retorisk under en minnestund i salen.

Via Georgia-senatets pressekontor ønsker Moore ikke å kommentere saken.

I sosiale medier har Moore uttrykt motstand mot lovforslaget, som han mener er et angrep på “memes” som brukes i den politiske debatten, og at satire er en beskyttet ytring.

I nyhetsbrev til sine støttespillere trakk Staples frem den føderale dommen mot Douglass Mackey i fjor som et eksempel på potensielle skadevirkninger. Mackey, også kjent som alt-right-influenceren “Rickey Vaughn”, sendte i november 2016 ut massevis av tekstmeldinger der han oppfordret svarte mottakere til å “stemme på SMS” i stedet for å avgi en reell stemme, og hevdet at tekstene var betalt av Clinton-kampanjen.

Føderale dommere avviste Mackeys argumenter om at kommunikasjonen utgjorde bedrageri som ikke var beskyttet av grunnloven. Mackey ble i oktober dømt til syv måneders fengsel.

Lovforslag 986 innfører forbrytelsene valgfusk og oppfordring til valgfusk, med strafferammer på to til fem års fengsel og bøter på opptil 50 000 dollar.

Hvis en person innen 90 dager før et valg publiserer, kringkaster, streamer eller laster opp vesentlig villedende medier – definert som å gi inntrykk av å skildre en virkelig persons tale eller oppførsel som ikke har funnet sted i virkeligheten og som for en fornuftig person fremstår som autentisk – vil vedkommende gjøre seg skyldig i en forbrytelse, så lenge de aktuelle mediene i betydelig grad påvirker sjansene for at en kandidat eller folkeavstemning vinner, eller forvirrer administrasjonen av valget. Dermed vil det også være straffbart å bruke deepfakes for å så tvil om valgresultatet.

Deepfakes kom inn i valgkampen i 2024 med en AI-generert lydsamtale med Joe Biden som ba velgerne i New Hampshire om ikke å stemme. I etterkant av samtalen kunngjorde Federal Communications Commission et forbud mot robotsamtaler som bruker AI-lyd. Men Federal Elections Commission har ennå ikke innført regler for politiske annonser som bruker kunstig intelligens, noe vaktbikkjegrupper har etterlyst i flere måneder. Regelverket henger etter virkeligheten når det gjelder AIs evne til å villede velgerne.

I mangel av føderale valgregler for AI-innhold har delstatene kommet på banen og i flere tilfeller vedtatt lovforslag som vanligvis krever merking av politiske annonser som bruker AI på en eller annen måte. Uten disse merkelappene anses AI-generert innhold i politiske annonser som ulovlig i de fleste delstatene.

Eksperter mener at spesielt AI-lyd kan lure velgerne fordi lytteren mister kontekstuelle ledetråder som kan avsløre at en video er falsk. Det er enkelt og billig å lage lydforfalskninger av prominente personer som Trump og Biden ved hjelp av lett tilgjengelige apper. Når det gjelder mindre kjente personer som ofte uttaler seg offentlig og har en stor mengde eksempler på stemmen sin, for eksempel taler eller medieopptredener, kan folk laste opp disse eksemplene for å trene opp en deepfake-klone av personens stemme.

Det kan bli utfordrende å håndheve loven i Georgia. Lovgivere slet med å finne måter å begrense anonyme løpesedler og robocalls som spredte feilinformasjon og svindel i forkant av valg, lenge før fremveksten av kunstig intelligens.

“Jeg tror det var derfor vi ga statsadvokatens kontor samtidig jurisdiksjon”, sier Thomas. “En av de andre tingene vi har gjort, er å la [Georgia Bureau of Investigation] etterforske valgsaker. Med de to organisasjonenes hestekrefter har vi den største sannsynligheten for å finne ut hvem som gjorde det.”

 

Lovgiverne har bare så vidt begynt å ta inn over seg konsekvensene av kunstig intelligens. Thomas forventer at det vil komme flere lovforslag i løpet av de neste sesjonene.

“Svindel er svindel, og det er det dette lovforslaget dreier seg om”, sier Thomas. “Det er ikke en rettighet i henhold til det første tillegget for noen.”