To av de største nettstedene for deepfake-pornografi har nå begynt å blokkere personer som prøver å få tilgang til dem fra Storbritannia. Dette skjer få dager etter at den britiske regjeringen kunngjorde planer om en ny lov som vil gjøre det straffbart å lage deepfakes uten samtykke.

Nettsteder og apper som lager deepfake-pornografi uten samtykke, og som “tar av” klærne på bilder, har vokst i et alarmerende tempo – noe som har ført til utallige skader for de tusenvis av kvinnene de brukes til å ramme.

Clare McGlynn, professor i jus ved Durham University, sier at dette er et “enormt viktig øyeblikk” i kampen mot deepfake-misbruk. “Dette setter en stopper for den enkle tilgangen til og normaliseringen av deepfake-materiale om seksuelle overgrep”, sier McGlynn til WIRED.

Siden deepfake-teknologien først dukket opp i desember 2017, har den konsekvent blitt brukt til å skape seksuelle bilder av kvinner uten samtykke – ved å bytte ut ansiktene deres i pornografiske videoer eller ved å generere nye “nakenbilder”. Etter hvert som teknologien har blitt bedre og lettere tilgjengelig, har det blitt opprettet hundrevis av nettsteder og apper. Senest har skolebarn blitt tatt i å lage nakenbilder av klassekamerater.

Blokkeringene av deepfake-nettsteder i Storbritannia ble først oppdaget i dag, og to av de mest fremtredende tjenestene har nå lagt ut meldinger på sine hjemmesider om at de ikke lenger er tilgjengelige for besøkende fra landet. WIRED navngir ikke de to nettstedene på grunn av muligheten for misbruk.

Et av nettstedene som har fått restriksjoner, er det største nettstedet for deepfake-pornografi som finnes i dag. Når du besøker nettstedet fra Storbritannia, får du en melding om at tilgang er nektet. “På grunn av lover eller (kommende) lovgivning i ditt land eller din delstat er vi dessverre nødt til å nekte deg tilgang til dette nettstedet”, står det i meldingen. Den viser også den besøkendes IP-adresse og land.

Det andre nettstedet, som også har en app, viser en lignende melding. “Tilgang til tjenesten i ditt land er blokkert”, står det, før det antydes at det kan finnes måter å omgå den geografiske begrensningen på. Nettsidene ser ikke ut til å ha noen begrensninger når man besøker dem fra USA, men de kan også være begrenset i andre land.

Det er ikke umiddelbart klart hvorfor nettstedene har innført lokasjonsblokkeringene, eller om de har gjort det som følge av rettslige pålegg eller varsler. Det er heller ikke klart om blokkeringene er midlertidige. Meldinger sendt til nettstedene via e-postadresser og kontaktskjemaer er ikke besvart. Skaperne av nettstedene har ikke lagt ut noen offentlige meldinger om sperringene på nettstedene eller i sosiale medier.

Denne uken offentliggjorde politikere i Storbritannia planer om en lov som kriminaliserer produksjon av deepfakes uten samtykke. I henhold til loven, som ennå ikke er vedtatt, kan folk risikere ubegrensede bøter hvis de lager deepfakes for å “skremme, ydmyke eller forulempe offeret”. Dette bygger på tidligere bestemmelser som gjør det ulovlig for personer i Storbritannia å dele seksualiserte deepfakes.

“Selv om det er uklart om disse plattformene har blitt beordret til å blokkere tilgangen til Storbritannia eller om de har gjort det proaktivt på grunn av den nylige kriminaliseringen, viser det at lovgivning kan utgjøre en meningsfull forskjell når det gjelder å fjerne den juridiske tvetydigheten som mange deepfake-pornografi-plattformer bruker som dekke for de klare etiske skadene de forårsaker”, sier Henry Ajder, en AI- og deepfake-ekspert, til WIRED. Ajder legger til at søkemotorer og hostingleverandører over hele verden bør gjøre mer for å begrense spredningen og opprettelsen av skadelige deepfakes.

Selv om det fortsatt er mulig å få tilgang til de to nettstedene i Storbritannia ved hjelp av et VPN, er restriksjonene et tegn på at konstant press – fra lovgivere, teknologiselskaper og kampanjer – kan gjøre det vanskeligere å få tilgang til og lage deepfake-porno. “Folk vil selvsagt kunne bruke VPN for å få tilgang til disse nettstedene og appene, men det skaper friksjon”, sier McGlynn ved Durham University. “Det innfører et budskap om at det er noe galt og skadelig ved dette materialet, slik at du må bruke VPN for å få tilgang til det.”

“Forhåpentligvis”, legger McGlynn til, “kan dette vise andre regjeringer rundt om i verden at hvis vi tar grep, kan vi faktisk redusere utbredelsen [av] og den enkle tilgangen til deepfake-materiale om seksuelle overgrep.”