Digitale gjenskapelser av døde mennesker er på vei til å bli en realitet, og det haster med å regulere dem, mener AI-etikere, som advarer om at “deadbots” kan forårsake psykisk skade og til og med “hjemsøke” skaperne og brukerne av dem.

Slike tjenester, som det allerede er teknisk mulig å lage og lovlig å bruke, kan gjøre det mulig for brukere å laste opp samtaler med døde slektninger for å “vekke bestemor til live igjen” i form av en chatbot, mener forskere fra University of Cambridge.

De kan markedsføres til foreldre med dødelige sykdommer som ønsker å etterlate seg noe som barnet deres kan interagere med, eller rett og slett selges til fortsatt friske mennesker som ønsker å katalogisere hele livet sitt og skape et interaktivt ettermæle.

Men i begge tilfeller kan skruppelløse selskaper og tankeløs forretningspraksis forårsake varig psykologisk skade og fundamentalt sett ikke respektere den avdødes rettigheter, hevdes det i artikkelen.

“Den raske utviklingen innen generativ kunstig intelligens betyr at nesten hvem som helst med tilgang til internett og litt grunnleggende kunnskap kan gjenopplive en avdød person”, sier Katarzyna Nowaczyk-Basińska, en av studiens medforfattere ved Leverhulme Centre for the Future of Intelligence (LCFI) i Cambridge.

“Dette området innen kunstig intelligens er et etisk minefelt. Det er viktig å prioritere den avdødes verdighet, og sørge for at den ikke blir krenket av økonomiske motiver, for eksempel i forbindelse med digitale tjenester etter døden.”

En risiko er selskaper som tjener penger på sine digitale etterlivstjenester gjennom reklame. Brukerne av en slik tjeneste kan få sjokk når deres digitalt gjenskapte kjære begynner å foreslå at de skal bestille takeaway i stedet for å lage mat fra bunnen av. Det kan føre til en ubehagelig erkjennelse av at de ikke ble spurt om hvorvidt dataene deres kunne brukes på en slik måte.

Det kan gå mye verre når brukerne av slike tjenester er barn. Foreldre som ønsker å hjelpe barna sine med å håndtere tapet av en mor eller far, kan snart vende seg til deadbots.

Men det er lite som tyder på at en slik tilnærming er psykologisk nyttig, og mye tyder på at den kan forårsake betydelig skade ved å kortslutte den normale sorgprosessen.

“Ingen gjenskapelsestjeneste kan bevise at det å la barn samhandle med ‘deadbots’ er gunstig, eller i det minste ikke skader denne sårbare gruppen”, advares det i artikkelen.

For å bevare de dødes verdighet og de levendes psykologiske velvære foreslår forskerne en rekke retningslinjer som det kan være nødvendig med lovregulering for å håndheve.

Slike tjenester bør for eksempel ha prosedyrer for å “pensjonere” dødsroboter på en skånsom måte, og de bør begrense de interaktive funksjonene til kun å gjelde voksne, i tillegg til å være svært åpne om hvordan de fungerer og begrensningene ved ethvert kunstig system.

Tanken på å bruke et ChatGPT-lignende AI-system til å gjenskape en avdød kjær er ikke science fiction. I 2021 skapte Joshua Barbeau overskrifter etter å ha brukt GPT-3 til å lage en chatbot som snakket med stemmen til hans døde kjæreste, og seks år før det konverterte utvikleren Eugenia Kuyda tekstmeldingene til en nær venn til en chatbot, noe som til slutt førte til etableringen av den populære AI-ledsagerappen Replika.

Teknologien strekker seg også utover chatboter. I 2021 introduserte slektsforskningsnettstedet MyHeritage Deep Nostalgia, en funksjon som skapte animerte videoer av brukernes forfedre fra stillbilder. Etter at funksjonen gikk viralt, innrømmet selskapet at noen brukere “synes det er skummelt”.

“Resultatene kan være kontroversielle, og det er vanskelig å være likegyldig til denne teknologien”, sa MyHeritage den gang. “Denne funksjonen er ment for nostalgisk bruk, det vil si å bringe kjære forfedre tilbake til livet. Våre drivervideoer inkluderer ikke tale for å forhindre misbruk av dette, for eksempel opprettelsen av ‘deep fake’-videoer av levende mennesker.”

Et år senere introduserte MyHeritage DeepStory – som gjorde det mulig for brukerne å generere talende videoer.