En dommer i delstaten Washington, som førte tilsyn med en trippeldrapssak, forbød bruk av video forbedret av kunstig intelligens som bevis i en kjennelse som ifølge eksperter kan være den første i sitt slag i en amerikansk straffedomstol.

Kjennelsen, som ble undertegnet fredag av King County Superior Court-dommer Leroy McCullogh og først rapportert av NBC News, beskrev teknologien som ny og sa at den baserer seg på “ugjennomsiktige metoder for å representere det AI-modellen ‘mener’ bør vises”.

“Denne domstolen finner at opptak av dette AI-forbedrede beviset vil føre til en forvirring av problemene og en forvirring av øyenvitneskildringer, og kan føre til en tidkrevende rettssak i en rettssak om den ikke-fagfellevurderbare prosessen som brukes av AI-modellen”, skrev dommeren i kjennelsen som ble lagt ut på sakslisten mandag.

Kjennelsen kommer i en tid der kunstig intelligens og bruken av den – inkludert spredningen av deepfakes på sosiale medier og i politiske kampanjer – utvikler seg raskt, og der statlige og føderale lovgivere kjemper med de potensielle farene som teknologien utgjør.

Advokater for en mann som ble anklaget for å ha åpnet ild utenfor en bar i Seattle-området i 2021, drept tre mennesker og såret to, hadde forsøkt å introdusere en mobiltelefonvideo som var forbedret med maskinlæringsprogramvare, viser rettsdokumenter. Maskinlæring er et spesialfelt innen kunstig intelligens som har fått økt betydning de siste årene, og som ligger til grunn for de fleste moderne AI-systemer.

Aktorene i saken sa at det ikke så ut til å være noen juridisk presedens som tillater teknologien i en amerikansk straffedomstol, ifølge en innlevering i februar til King County Superior Court. Jonathan Hak, advokat og barrister i Canada og ekspert på bildebaserte bevis i USA og andre steder, sa at dette var den første saken han kjente til der en straffedomstol hadde tatt stilling til saken.

Den tiltalte, Joshua Puloka (46), har påberopt seg selvforsvar i forbindelse med drapene den 26. september, og advokatene hans hevdet i et rettsdokument fra februar at han hadde forsøkt å deeskalere en voldelig situasjon da han ble angrepet og skudd løsnet.

Puloka besvarte ilden og traff uskyldige tilskuere med dødelig utfall, heter det i dokumentasjonen. Mannen som er anklaget for å ha angrepet Puloka, ble også skutt og drept, fremgår det av en erklæring om sannsynlig årsak.

Den dødelige konfrontasjonen ble fanget opp på en mobilvideo. For å forbedre videoen henvendte Pulokas advokater seg til en mann som ikke tidligere hadde håndtert en straffesak, men som hadde bakgrunn innen kreativ videoproduksjon og redigering, ifølge aktoratet.

Programvaren han brukte, som er utviklet av Texas-baserte Topaz Labs, brukes av filmstudioer og andre kreative fagpersoner til å “supercharge” video, ifølge aktoratet.

Pulokas advokater har ikke svart på forespørsler om kommentarer. I en uttalelse sa en talsperson for Topaz Labs at selskapet “på det sterkeste” fraråder bruk av AI-teknologien til rettsmedisinske eller juridiske formål.

Påtalemyndigheten sa at den forbedrede videoen forutså bilder i stedet for å gjenspeile størrelsen, formen, kantene og fargene i originalvideoen. De forbedrede bildene var “unøyaktige, villedende og upålitelige”, heter det i begjæringen.

I en erklæring fra påtalemyndigheten, som er vedlagt i dokumentasjonen, sier en kriminalteknisk videoanalytiker som gjennomgikk de originale og forbedrede opptakene, at den forbedrede versjonen inneholdt visuelle data som ikke fantes i originalen. Ifølge eksperten, Grant Fredericks, var det også fjernet data fra den forbedrede versjonen.

Hver piksel “i den AI-genererte videoen er ny, noe som resulterer i en video som kan virke mer tiltalende for øyet til en lekmann, men som inneholder en illusjon av klarhet og økt bildeoppløsning som ikke nøyaktig representerer hendelsene i den opprinnelige scenen”, skrev Fredericks i erklæringen.

I et separat dokument svarte Pulokas advokater at slike påstander var “overdrevne og oppblåste”. En sammenligning av de to videoene viser at den forbedrede versjonen er en “tro gjengivelse av originalen”, heter det i erklæringen. “Og det er det som betyr noe.”

I sin erklæring sier Fredericks, som har undervist for FBI og jobbet som videoanalytiker i 30 år, at han ikke kjenner til fagfellevurderte publikasjoner som fastsetter en akseptert metode for AI-videoforbedringer. FBI har heller ikke tatt med noe om dette i sin beste praksis for håndtering av kriminalteknisk video, sa han.

George Reis, tidligere åstedsgransker og mangeårig kriminalteknisk videoanalytiker i Sør-California, sier at han kjenner til en håndfull eksempler på at kunstig intelligens brukes som et potensielt etterforskningsverktøy for å klargjøre bilder av bilskilt.

Et av selskapene som har utviklet slik programvare, Amped, sa i et innlegg i februar at kunstig intelligens ikke er pålitelig nok til å brukes til bildeforbedring i juridiske sammenhenger. Selskapet pekte på teknologiens ugjennomsiktige resultater og potensielt skjeve utfall.

“Det er en ny vitenskap”, sa Reis. “Det bør forskes på det før noen bruker det i faktiske rettssaker. Det bør være fagfellevurdert. Jeg er ikke sikker på hvilket nivå som en gang i fremtiden vil være passende for bruk av kunstig intelligens til å avklare et stillbilde eller en video, men akkurat nå er det for tidlig.”