Utvecklingen inom artificiell intelligens (AI) går allt snabbare, och som Patrik Mukanza (GP 10/2) framhåller finns ett behov av att diskutera de långtgående samhällskonsekvenser tekniken kan få. Debatten har tagit extra fart efter det amerikanska AI-företaget OpenAI:s lansering i november förra året av den spektakulära konversationsroboten ChatGPT. Var och en med internetuppkoppling kan lätt skaffa sig ett eget OpenAI-konto och samtala med ChatGPT och se vilka nästan kusligt intelligenta svar den kan ge på vissa områden, men också hur lätt det är att på andra områden lura den till rena dumheter.
I synnerhet inom utbildningssektorn är diskussionen livlig. Hur behöver vi anpassa undervisning och examination i ett läge där elever har möjlighet att delegera stora delar av uppsatsskrivning och andra hemuppgifter till en AI?
Föränderligt arbetsliv
Ett par centrala lärdomar kan redan identifieras. Den ena är att försök att isolera våra elever från den nya tekniken inte är någon bra lösning eftersom det bara leder till att utbildningen blir alltmer irrelevant för ett föränderligt arbetsliv. Den andra är att ChatGPT inte är teknikutvecklingens slutpunkt utan snarare början på dramatiska förändringar som gör att policies vi formulerar idag snabbt kan komma att behöva omvärderas.
Detta gäller inte bara utbildningssektorn. Allt slags kommunikations- och kontorsarbete kan komma att påverkas minst lika mycket som av 80- och 90-talens datorisering. Några gränser för vad AI på sikt kan åstadkomma finns i praktiken inte alls, och ett lyckat AI-genombrott kan leda vidare till lösningar på alla de klimat- och andra kriser vi idag står inför.
Men det finns också en baksida. Redan 1951 formulerade datavetenskapens grundare Alan Turing en vision om hur en tillräckligt avancerad AI kan börja förbättra sig själv utan fortsatt mänsklig inblandning, och hur det kan leda vidare till ett läge där den tar över makten. Vi människor hamnar då i samma slags prekära situation som gorillor befinner sig i idag, och mänsklighetens öde kommer att hänga på vad maskinerna har för mål och drivkrafter.
Det är därför av största betydelse för mänsklighetens framtid att lista ut hur vi kan se till att denna AGI har mål som ligger i linje med mänskliga värderingar
Det av Turing förutsedda genombrottet framstod länge som tämligen avlägset, men på sistone har allt fler bedömare pekat på 10-20 år fram i tiden som en fullt möjlig tidtabell. Dagens två ledande AI-utvecklare – OpenAI och Googleägda DeepMind – är båda optimistiska om att snabbt nå fram till ett sådant genombrott, under beteckningen artificiell generell intelligens (AGI).
Det är därför av största betydelse för mänsklighetens framtid att lista ut hur vi kan se till att denna AGI har mål som ligger i linje med mänskliga värderingar. Trots Turings varningsord ignorerades detta forskningsområde länge, men det har nu börjat ta form under namnet AI alignment. Pionjären på området, Eliezer Yudkowsky, har sagt att ”AI:n varken hatar dig eller älskar dig, men du är gjord av atomer som den kan ha annan användning för”. Dessa ord visar hur katastrofalt illa det kan gå om vi misslyckas med detta projekt. Tyvärr har AI alignment-forskningen hittills mest visat hur svårt det är, och ingen kan idag peka ut någon säker väg framåt.
Lätt att provocera
Särskilt illavarslande i detta sammanhang är hur OpenAI misslyckats med att få ChatGPT att bete sig väl. De har ansträngt sig att utforma den på sådant vis att den undviker att ljuga, att uttrycka rasism eller att dela med sig av farlig kunskap som exempelvis receptet för Molotovcocktails. Ändå har skadeglada användare världen över visat hur lätt det är att provocera ChatGPT till just dessa beteenden. Om OpenAI inte ens klarar att lösa AI alignment för ett system som ChatGPT, hur skall de då ha en chans att göra det för en AGI?
Den bioaktuella Hollywoodfilmen M3GAN berättar om en AI-forskare som skapar en avancerad lekkamratsrobot åt sin föräldralösa nioåriga systerdotter. Filmen bjuder trots det traditionella skräckfilmsformatet på en rad gravallvarliga läxor rörande AI-risk. En av dem är hur katastrofalt illa det riskerar att gå när även till synes godartade målfunktioner – i detta fall ”skydda flickan från all fysisk och emotionell skada” - kombineras med en snabbt växande intelligensnivå. Utan att avslöja för mycket går AI:n på tok för långt för att det ska vara moraliskt acceptabelt, för att skydda flickan. En annan är hur konkurrens mellan olika teknikföretag om att först nå fram till det stora genombrottet leder till en kapplöpningssituation där det inte finns tid till säkerhetstänk.
Just detta slags kapplöpningsdynamik mellan ledande AI-utvecklare föreligger redan idag, med potentiellt katastrofala konsekvenser. Jag har ingen mirakelmedicin, men tror liksom Mukanza att reglering behövs som en del av lösningen. Måhända är det hög tid att bygga upp ett politiskt momentum som förmår sätta press på OpenAI och andra ledande teknikbolag att sluta spela rysk roulette med mänsklighetens överlevnad som insats, och att i tid bromsa utvecklingen mot AGI.
Olle Häggström, professor i matematisk statistik vid Chalmers