Den amerikanske regjeringen utstedte torsdag nye regler som krever mer forsiktighet og åpenhet fra føderale byråer som bruker kunstig intelligens, og sier at de er nødvendige for å beskytte offentligheten i takt med den raske utviklingen av kunstig intelligens. Men den nye politikken inneholder også bestemmelser som skal oppmuntre til AI-innovasjon i offentlige etater når teknologien kan brukes til allmennhetens beste.

USA håper å fremstå som en internasjonal leder med det nye regimet for statlig AI. Visepresident Kamala Harris sa under et pressemøte i forkant av kunngjøringen at administrasjonen planlegger at retningslinjene skal “tjene som en modell for global handling”. Hun sa at USA

“vil fortsette å oppfordre alle nasjoner til å følge vårt eksempel og sette allmennhetens interesser først når det gjelder myndighetenes bruk av kunstig intelligens.”

Den nye policyen fra Det hvite hus’ Office of Management and Budget vil være retningsgivende for AI-bruk i den føderale regjeringen. Den krever mer åpenhet om hvordan myndighetene bruker kunstig intelligens, og oppfordrer også til mer utvikling av teknologien i føderale organer. I retningslinjene forsøker administrasjonen å finne en balanse mellom å redusere risikoen ved økt bruk av kunstig intelligens – som vi ikke kjenner omfanget av – og å bruke AI-verktøy til å løse eksistensielle trusler som klimaendringer og sykdommer.

Kunngjøringen føyer seg inn i rekken av tiltak fra Biden-administrasjonen for å omfavne og begrense kunstig intelligens. I oktober undertegnet president Biden en omfattende dekret om kunstig intelligens som vil fremme myndighetenes bruk av AI-teknologi, men som også krever at de som lager store AI-modeller, av hensyn til den nasjonale sikkerheten, gir myndighetene informasjon om sine aktiviteter.

I november undertegnet USA sammen med Storbritannia, Kina og EU-landene en erklæring som anerkjente farene ved den raske utviklingen av kunstig intelligens, men som også oppfordret til internasjonalt samarbeid. Samme uke offentliggjorde Harris en ikke-bindende erklæring om militær bruk av kunstig intelligens, undertegnet av 31 nasjoner. Erklæringen inneholder rudimentære beskyttelsestiltak og oppfordrer til å deaktivere systemer som utviser “utilsiktet atferd”.

De nye retningslinjene for amerikanske myndigheters bruk av kunstig intelligens, som ble offentliggjort torsdag, ber etatene om å ta flere skritt for å forhindre utilsiktede konsekvenser ved bruk av kunstig intelligens. Til å begynne med må etatene kontrollere at AI-verktøyene de bruker, ikke setter amerikanere i fare. Hvis for eksempel Department of Veterans Affairs skal bruke kunstig intelligens på sykehusene sine, må de kontrollere at teknologien ikke gir rasistiske diagnoser. Forskning har vist at AI-systemer og andre algoritmer som brukes til å stille diagnoser eller bestemme hvilke pasienter som skal få behandling, kan forsterke historiske diskrimineringsmønstre.

Hvis en etat ikke kan garantere slike garantier, må den slutte å bruke AI-systemet eller begrunne fortsatt bruk. Amerikanske myndigheter har frist til 1. desember med å oppfylle disse nye kravene.

Retningslinjene krever også mer åpenhet om offentlige AI-systemer, og krever at etatene offentliggjør AI-modeller, data og kode som eies av myndighetene, så lenge offentliggjøringen av slik informasjon ikke utgjør en trussel mot offentligheten eller myndighetene. Byråene må hvert år rapportere offentlig hvordan de bruker kunstig intelligens, hvilke potensielle risikoer systemene utgjør, og hvordan disse risikoene reduseres.

De nye reglene krever også at de føderale etatene styrker sin AI-kompetanse og utnevner en AI-sjef som skal føre tilsyn med all AI som brukes i etaten. Det er en rolle som fokuserer på å fremme AI-innovasjon og samtidig holde øye med farene.

Ifølge myndighetene vil endringene også fjerne noen av hindringene for bruk av AI i føderale etater, noe som kan gjøre det lettere å eksperimentere med AI på en mer ansvarlig måte. Teknologien har potensial til å hjelpe myndighetene med å kartlegge skader etter naturkatastrofer, varsle ekstremvær, kartlegge sykdomsspredning og kontrollere flytrafikken.

Land over hele verden er i ferd med å regulere kunstig intelligens. EU vedtok i desember sin AI Act, en lov som regulerer utvikling og bruk av AI-teknologi, og vedtok den formelt tidligere denne måneden. Også Kina arbeider med en omfattende regulering av kunstig intelligens.