Hvordan utvikler feltet kunstig intelligens seg, og hva betyr det for fremtidens arbeid, utdanning og menneskehet? Alt dette og mye mer tok MITs president Sally Kornbluth og OpenAIs administrerende direktør Sam Altman opp i en omfattende diskusjon på MITs campus 2. mai.

 

Suksessen til OpenAIs store språkmodeller ChatGPT har bidratt til å anspore en bølge av investeringer og innovasjon innen kunstig intelligens. ChatGPT-3.5 ble den raskest voksende forbrukerprogramvaren i historien etter lanseringen i slutten av 2022, med hundrevis av millioner brukere av verktøyet. Siden den gang har OpenAI også demonstrert AI-drevne produkter for bilde-, lyd- og videogenerering og inngått et samarbeid med Microsoft.

 

Arrangementet, som fant sted i et fullsatt Kresge Auditorium, fanget øyeblikkets begeistring rundt AI, med et blikk mot hva som kommer til å skje i fremtiden.

 

“Jeg tror de fleste av oss husker første gang vi så ChatGPT og tenkte: “Herregud, det er så kult!”” sa Kornbluth. “Nå prøver vi å finne ut hva neste generasjon av alt dette kommer til å bli.”

 

Altman på sin side gleder seg over de høye forventningene som stilles til selskapet hans og til kunstig intelligens mer generelt.

 

“Jeg synes det er fantastisk at alle i to uker var helt fra seg av begeistring for ChatGPT-4, og den tredje uken sa alle: “Kom igjen, hvor er GPT-5?”” sa Altman. “Jeg tror det sier noe helt fantastisk om menneskelig forventning og streben, og hvorfor vi alle må [jobbe for å] gjøre ting bedre.”

 

Problemene med kunstig intelligens

 

Kornbluth og Altman diskuterte tidlig i samtalen de mange etiske dilemmaene som kunstig intelligens reiser.

 

“Jeg tror vi har gjort overraskende gode fremskritt når det gjelder hvordan vi kan innrette et system rundt et sett med verdier”, sa Altman. “Selv om folk liker å si: “Du kan ikke bruke disse tingene fordi de spyr ut giftig avfall hele tiden”, oppfører GPT-4 seg på en måte slik du vil at den skal gjøre, og vi klarer å få den til å følge et gitt sett med verdier, ikke perfekt, men bedre enn jeg hadde forventet på dette tidspunktet.”

 

Altman påpekte også at folk ikke er enige om nøyaktig hvordan et AI-system bør oppføre seg i mange situasjoner, noe som kompliserer arbeidet med å skape en universell atferdskodeks.

 

“Hvordan bestemmer vi hvilke verdier et system skal ha?” spurte Altman. “Hvordan bestemmer vi hva et system skal gjøre? Hvor mye skal samfunnet definere grensene i forhold til å stole på brukeren av disse verktøyene? Ikke alle vil bruke dem slik vi ønsker, men slik er det med alle verktøy. Jeg synes det er viktig å gi folk mye kontroll … men det er noen ting et system bare ikke bør gjøre, og vi må i fellesskap forhandle oss frem til hva det er.”

 

Kornbluth var enig i at det vil være vanskelig å gjøre ting som å utrydde skjevheter i AI-systemer.

 

“Det er interessant å tenke på om vi kan gjøre modeller mindre forutinntatte enn vi er som mennesker”, sa hun.

 

Kornbluth tok også opp personvernhensyn knyttet til de enorme datamengdene som trengs for å trene opp dagens store språkmodeller. Altman sa at samfunnet har kjempet med disse bekymringene siden internett ble lansert, men at kunstig intelligens gjør slike betraktninger mer komplekse og mer presserende. Han ser også helt nye spørsmål som følge av utsiktene til kraftige AI-systemer.

 

Й”Hvordan skal vi navigere i avveiningene mellom personvern og nytteverdi versus sikkerhet?” spurte Altman. “Hvor vi hver for oss bestemmer oss for å gjøre disse avveiningene, og hvilke fordeler som vil være mulige hvis noen lar systemet trene på hele livet sitt, er noe helt nytt som samfunnet må navigere i. Jeg vet ikke hva svarene vil være.”

 

Altman sier at han tror at utviklingen av fremtidige versjoner av AI-modeller vil bidra til å løse problemene knyttet til både personvern og energiforbruk.

 

“Det vi ønsker av GPT-5 eller 6 eller hva det måtte være, er at det skal være den best mulige resonneringsmotoren”, sier Altman. “Det er sant at den eneste måten vi kan gjøre det på akkurat nå, er ved å trene den på tonnevis av data. I den prosessen lærer den noe om hvordan den skal resonnere, eller hva du nå vil kalle det. Men det faktum at den kan huske data, eller det faktum at den i det hele tatt lagrer data i parameterrommet sitt, tror jeg vi kommer til å se tilbake og si: “Det var litt merkelig sløsing med ressurser”. Jeg antar at vi på et eller annet tidspunkt vil finne ut hvordan vi kan skille resonneringsmotoren fra behovet for tonnevis av data eller lagring av data i [modellen], og være i stand til å behandle dem som separate ting.”

 

Kornbluth spurte også om hvordan AI kan føre til fortrengning av jobber.

 

“Noe av det som irriterer meg mest med folk som jobber med AI, er når de står oppreist og sier: “Dette vil aldri føre til at noen jobber forsvinner. Dette er bare en additiv ting. Alt dette kommer bare til å bli flott”, sier Altman. “Dette kommer til å eliminere mange av de nåværende jobbene, og dette kommer til å endre måten mange av de nåværende jobbene fungerer på, og dette kommer til å skape helt nye jobber. Det skjer alltid med teknologi.”

Løftet om kunstig intelligens

 

Altman mener at fremskritt innen kunstig intelligens vil gjøre det verdt det å ta tak i alle de nåværende problemene på feltet.

 

“Hvis vi brukte 1 prosent av verdens elektrisitet på å trene opp en kraftig AI, og den AI-en hjalp oss med å finne ut hvordan vi kan gå over til ikke-karbonbasert energi eller gjøre dyp karbonfangst bedre, ville det være en enorm seier”, sier Altman.

 

Han sa også at den anvendelsen av AI han er mest interessert i, er vitenskapelige oppdagelser.

 

“Jeg tror [vitenskapelige oppdagelser] er kjernen i menneskelig fremgang, og at det er den eneste måten vi kan skape bærekraftig økonomisk vekst på”, sa Altman. “Folk er ikke fornøyd med GPT-4. De vil at ting skal bli bedre. Alle vil ha mer, bedre og raskere liv, og vitenskapen er veien dit.”

 

Kornbluth spurte også Altman om hans råd til studenter som tenker på karrieren sin. Han oppfordret studentene til ikke å begrense seg selv.

 

“Den viktigste lærdommen man bør få tidlig i karrieren, er at man kan finne ut av hva som helst, og at ingen har alle svarene når de begynner”, sa Altman. “Man snubler seg frem, har en rask iterasjonshastighet og prøver å drive mot de mest interessante problemene for deg, og være sammen med de mest imponerende menneskene og ha tillit til at du vil lykkes med å iterere deg frem til det rette…. Du kan gjøre mer enn du tror, raskere enn du tror.”

 

Rådet var en del av et bredere budskap Altman hadde om å være optimistisk og jobbe for å skape en bedre fremtid.

 

“Måten vi lærer våre unge mennesker at verden er helt på trynet og at det er håpløst å forsøke å løse problemer, at alt vi kan gjøre er å sitte på soverommene våre i mørket og tenke på hvor forferdelige vi er, er virkelig en dypt uproduktiv tendens”, sa Altman. “Jeg håper MIT er annerledes enn mange andre universiteter. Jeg antar at det er det. Men dere må alle gjøre det til en del av deres livsoppgave å kjempe mot dette. Velstand, overflod, et bedre liv neste år, et bedre liv for våre barn. Det er den eneste veien fremover. Det er den eneste måten å få et fungerende samfunn på … og anti-fremskritt-tendensen, anti ‘folk fortjener et godt liv’-tendensen, er noe jeg håper dere alle kjemper mot.”