En seksualforbryter som er dømt for å ha laget mer enn 1000 usømmelige bilder av barn, har fått forbud mot å bruke noen “verktøy for å skape AI” de neste fem årene i den første kjente saken av sitt slag.

 

Anthony Dover, 48, ble beordret av en britisk domstol til å «ikke bruke, besøke eller få tilgang til» verktøy for generering av kunstig intelligens uten forhåndstillatelse fra politiet som en betingelse for en forebygging av seksuell skade som ble pålagt i februar.

 

Forbudet forbyr ham å bruke verktøy som tekst-til-bilde-generatorer, som kan lage naturtro bilder basert på en skriftlig kommando, og “nudifisering” av nettsteder som brukes til å lage eksplisitte “deepfakes”.

 

Dover, som ble gitt en fellesordre og en bot på 200 pund, har også blitt eksplisitt beordret til å ikke bruke programvaren Stable Diffusion, som angivelig har blitt utnyttet av pedofile til å lage hyperrealistisk materiale om seksuelle overgrep mot barn, ifølge registreringer fra en straffeutmålingshøring kl. Poole sorenskriverdomstol.
Saken er den siste i en rekke rettsforfølgelser der AI-generering har dukket opp som et problem og følger måneder med advarsler fra veldedige organisasjoner om spredningen av AI-genererte bilder av seksuelt misbruk.

 

I forrige uke kunngjorde regjeringen opprettelsen av et nytt lovbrudd som gjør det ulovlig å lage seksuelt eksplisitte deepfakes av over 18 år uten samtykke. De dømte står overfor straffeforfølgelse og en ubegrenset bot. Hvis bildet deretter deles bredere, kan lovbrytere bli sendt i fengsel.

 

Å lage, eie og dele kunstig materiale om seksuelle overgrep mot barn var allerede ulovlig under lover som har vært på plass siden 1990-tallet, som forbyr både ekte og “pseudo” fotografier av under 18 år. Tidligere år har loven blitt brukt til å straffeforfølge personer for lovbrudd som involverer naturtro bilder som de som er laget med Photoshop.

 

Nylige saker tyder på at det i økende grad blir brukt til å håndtere trusselen fra sofistikert kunstig innhold. I en gang gjennom domstolene i England ble en tiltalt som har antydet at han erklærte seg skyldig i å lage og distribuere usømmelige “pseudofotografier” av under 18 år, kausjonert med betingelser inkludert å ikke ha tilgang til en japansk fotodelingsplattform der han påstås å ha solgt og distribuerte kunstige misbruksbilder, ifølge rettsprotokoller.

 

I en annen sak ble en 17-åring fra Denbighshire, nordøst i Wales, i februar dømt for å ha tatt hundrevis av usømmelige «pseudofotografier», inkludert 93 bilder og 42 videoer av de mest ekstreme kategori A-bildene. Minst seks andre har dukket opp i retten anklaget for å eie, lage eller dele pseudofotografier – som dekker AI-genererte bilder – det siste året.
Internet Watch Foundation (IWF) sa at påtalemyndighetene var et «landemerke»-øyeblikk som «bør slå alarm om at kriminelle som produserer AI-genererte bilder av seksuelle overgrep mot barn er som enmannsfabrikker, som er i stand til å lage noen av de mest forferdelige bildene». .

 

Susie Hargreaves, veldedighetssjefen, sa at selv om AI-genererte bilder av seksuelt misbruk for tiden utgjør en “relativ lav” andel av rapportene, så de en “sakte, men kontinuerlig økning” i saker, og at noe av materialet var ” svært realistisk». “Vi håper påtalemyndigheten sender en sterk melding til de som lager og distribuerer dette innholdet om at det er ulovlig,” sa hun.

 

Det er ikke klart nøyaktig hvor mange tilfeller det har vært med AI-genererte bilder fordi de ikke telles separat i offisielle data, og falske bilder kan være vanskelig å skille fra ekte.

 

I fjor gikk et team fra IWF undercover i et mørkt nettforum for overgrep mot barn og fant 2562 kunstige bilder som var så realistiske at de ville bli behandlet ved lov som om de var ekte.

 

Lucy Faithfull Foundation (LFF), som driver den konfidensielle Stop It Now-hjelpelinjen for folk som er bekymret for tankene eller oppførselen deres, sa at de hadde mottatt flere oppringninger om AI-bilder og at det var en “angående trend som vokser i tempo”.

 

Den er også bekymret for bruken av “nudifiserende” verktøy som brukes til å lage dypfalske bilder. I ett tilfelle sa faren til en 12 år gammel gutt at han hadde funnet sønnen sin ved å bruke en AI-app for å lage toppløse bilder av venner.

 

I et annet tilfelle sa en innringer til NSPCCs Childline-hjelpelinje at en «fremmed på nettet» hadde laget «falske nakenbilder» av henne. “Det ser så ekte ut, det er ansiktet mitt og rommet mitt i bakgrunnen. De må ha tatt bildene fra Instagramen min og redigert dem, sa 15-åringen.

 

Veldedige organisasjoner sa at i tillegg til å sikte mot lovbrytere, måtte teknologiselskaper stoppe bildegeneratorer fra å produsere dette innholdet i utgangspunktet. “Dette er ikke morgendagens problem,” sa Deborah Denis, administrerende direktør i LFF.

 

Beslutningen om å forby en voksen seksualforbryter fra å bruke verktøy for generering av AI kan danne presedens for fremtidig overvåking av personer som er dømt for usømmelige bildeforbrytelser.

 

Seksuelle lovbrytere har lenge møtt begrensninger på internettbruk, som å bli utestengt fra å surfe i “inkognito”-modus, få tilgang til krypterte meldingsapper eller å slette internettloggen deres. Men det er ingen kjente tilfeller der restriksjoner ble pålagt bruk av AI-verktøy.

 

I Dovers tilfelle er det ikke klart om forbudet ble innført fordi hans fornærmelse involverte AI-generert innhold, eller på grunn av bekymringer om fremtidig lovbrudd. Slike forhold blir ofte bedt om av påtalemyndigheten basert på etterretning som er i besittelse av politiet. Ved lov må de være spesifikke, forholdsmessige til trusselen som utgjøres, og «nødvendige for å beskytte allmennheten».

 

En talsperson for Crown Prosecution Service sa: “Der vi oppfatter at det er en pågående risiko for barns sikkerhet, vil vi be retten om å pålegge vilkår, som kan innebære forbud mot bruk av viss teknologi.”

 

Stability AI, selskapet bak Stable Diffusion, sa bekymringene om barnemishandlingsmateriale knyttet til en tidligere versjon av programvaren, som ble utgitt til offentligheten av en av partnerne. Den sa at siden overtagelsen av den eksklusive lisensen i 2022 hadde den investert i funksjoner for å forhindre misbruk, inkludert “filtre for å avskjære usikre meldinger og utganger” og at den forbød enhver bruk av tjenestene for ulovlig aktivitet.