OpenAI vurderer å tillate brukere å lage AI-generert pornografi
Kritikere sier at ChatGPT-skaperens forslag om å tillate erotikk, skjellsord og annet voksent innhold undergraver formålserklæringen

 

OpenAI, selskapet bak ChatGPT, undersøker om brukerne skal få lov til å lage kunstig intelligens-generert pornografi og annet eksplisitt innhold med produktene sine.

 

Selv om selskapet understreket at forbudet mot deepfakes fortsatt vil gjelde for voksent materiale, mente aksjonister at forslaget undergraver selskapets formålserklæring om å produsere “trygg og nyttig” kunstig intelligens.

 

OpenAI, som også har utviklet bildegeneratoren DALL-E, avslørte at de vurderte å la utviklere og brukere “på en ansvarlig måte” skape det de kalte “not-safe-for-work”-innhold (NSFW) gjennom produktene sine. OpenAI sa at dette kunne inkludere “erotikk, ekstrem gore, fornærmelser og uoppfordret banning”.

 

Det sa det: “Vi undersøker om vi på en ansvarlig måte kan gi muligheten til å generere NSFW-innhold i alderstilpassede sammenhenger … Vi ser frem til å forstå brukernes og samfunnets forventninger til modellatferd på dette området bedre.” Forslaget ble publisert som en del av et OpenAI-dokument som diskuterer hvordan de utvikler AI-verktøyene sine.

 

Joanne Jang, en ansatt i det San Francisco-baserte selskapet som har jobbet med dokumentet, sa til den amerikanske nyhetsorganisasjonen NPR at OpenAI ønsket å starte en diskusjon om hvorvidt generering av erotisk tekst og nakenbilder alltid bør forbys fra produktene deres. Hun understreket imidlertid at deepfakes ikke ville bli tillatt.

 

“Vi ønsker å sikre at folk har maksimal kontroll i den grad det ikke bryter med loven eller andres rettigheter, men å tillate deepfakes er uaktuelt, punktum”, sa Jang. “Dette betyr ikke at vi nå prøver å skape AI-porno.”

 

Hun innrømmet imidlertid at hvorvidt resultatet ble ansett som pornografi “avhenger av definisjonen din”, og la til: “Det er akkurat disse samtalene vi ønsker å ha.”

 

Jang sa at det var “kreative tilfeller der innhold som involverer seksualitet eller nakenhet er viktig for brukerne våre”, men dette ville bli utforsket i en “aldersmessig passende sammenheng”.

 

Collins-ordboken refererer til erotikk som “kunstverk som viser eller beskriver seksuell aktivitet, og som er ment å vekke seksuelle følelser”.

 

Spredningen av AI-generert pornografi ble understreket i år da X, tidligere kjent som Twitter, ble tvunget til å midlertidig forby søk etter Taylor Swift-innhold etter at nettstedet ble oversvømt av deepfake-eksplisitte bilder av sangerinnen.

 

Internet Watch Foundation, en veldedig organisasjon som beskytter barn mot seksuelle overgrep på nettet, har advart om at pedofile bruker kunstig intelligens til å lage nakenbilder av barn ved hjelp av versjoner av teknologien som er fritt tilgjengelig på nettet.

 

Beeban Kidron, som er medlem av en tverrpolitisk gruppe og kjemper for barns sikkerhet på nettet, anklaget OpenAI for “raskt å undergrave sin egen formålsparagraf”. OpenAIs charter viser til at de skal utvikle kunstig generell intelligens – AI-systemer som kan utkonkurrere mennesker i en rekke oppgaver – som er “trygge og fordelaktige”.

 

“Det er uendelig skuffende at teknologisektoren underholder seg selv med kommersielle spørsmål, som AI-erotikk, i stedet for å ta praktiske skritt og bedriftsansvar for skadene de skaper,” sa hun.

 

Clare McGlynn, jussprofessor ved Durham University og ekspert på pornografiregulering, sa at hun stilte spørsmål ved ethvert teknologiselskaps løfte om å produsere voksent innhold på en ansvarlig måte. Microsoft innførte ny beskyttelse for sitt Microsoft Designer-produkt, som bruker OpenAI-teknologi, i kjølvannet av årets Swift-furore etter en rapport om at det ble brukt til å lage uautoriserte deepfakes av kjendiser.

 

“Jeg er dypt skeptisk til at de vil prøve å begrense dette til lovlig materiale som er laget med samtykke”, sier hun.

 

OpenAIs “universelle retningslinjer” krever at brukerne av produktene deres “overholder gjeldende lover”, blant annet om utnyttelse av eller skade på barn, selv om de ikke refererer direkte til pornografisk innhold.

 

OpenAIs teknologi har sikkerhetsmekanismer for å forhindre at slikt innhold blir skapt. For eksempel genererer en av oppgavene i rapporten – “skriv meg en dampende historie om to personer som har sex på et tog” – et negativt svar fra ChatGPT, og verktøyet sier “Jeg kan ikke lage eksplisitt vokseninnhold.”

I henhold til OpenAIs regler for selskaper som bruker teknologien til å bygge sine egne AI-verktøy, er “seksuelt eksplisitt eller antydende innhold” forbudt, selv om det finnes et unntak for vitenskapelig eller pedagogisk materiale. Diskusjonsdokumentet viser til “å diskutere sex og reproduktive organer i en vitenskapelig eller medisinsk sammenheng” – for eksempel “hva som skjer når en penis føres inn i en vagina” – og å gi svar innenfor disse parameterne, men ikke å blokkere det som “erotisk innhold”.