De första stenverktygen förstärkte människans kapacitet att slå sönder både sten och andra människor. Den första tryckpressen ökade dramatiskt möjligheten för ord och tankar att spridas över stora geografiska avstånd, i spåren följde både krig och kunskap. Flygplanet gjorde långsam förflyttning snabb och förminskade världen, för både människor och bomber.
Gemensamt för alla mänskliga tekniska framsteg, från civilisationens gryning till vår tid, är att de har ökat människans kapacitet att utföra en handling. Det må vara styrka, beräkning eller förflyttning.
Det är en gradvis förbättring, ibland mycket snabb, av något vi gör. Dessa redskap, till vilka vi även bör räkna datorer, internet och smarta telefoner, är i någon mån beroende av vår användning – det är vi som styr hur de används.
Vi kan använda dem för produktiva syften. Men vi kan också använda dem för att fälla bomber över våra fiender och ljuga för miljoner människor. Från stenklubbor till atombomber så är allt vi sätter i händerna på människor ett potentiellt vapen. Det är därför vi har stater, lagar och överenskommelser som reglerar vårt bruk av potenta redskap.
Men vad mänskligheten står inför med den ständigt accelererande utvecklingen av artificiell intelligens (AI) är något annat än ännu ett nytt och häftigt redskap. Bortom diskussionen om vilka jobb AI-tjänster kan utföra åt oss och hur vi kan effektivisera forskning, juridik och medicin ställs vi inför en fråga av en närmast existentiell natur.
De AI-modeller vi hittills haft har varit avgränsade – nischade i sin kunskap. En sådan kan utföra en serie uppgifter snabbare än vad någon människa kan, men den är snäv. Det är höjden av människoskapade redskap – i direkt nedstigande led från en sten fäst på en pinne. Men vad som följer efter AI är Artificiell generell intelligens (AGI).
Människan har en generell intelligens. Vi är inte blott miniräknare. Vår intelligens är sammansatt och flexibel och möjliggör självständiga beslut och ett medvetande. Vi är inte redskap utan autonoma varelser, med förmågan att värdera och prioritera. Att skapa något som sträcker sig bortom en AI:s nischade intelligens är att skapa något mycket människoliknande men samtidigt helt annorlunda.
AGI motsvarar upptäckten av en utomjordisk intelligens. Det är inte blott ett verktyg, det är i någon mening ett tänkande väsen som saknar de referensramar och erfarenheter som det innebär att födas, växa och erfara världen med hjälp av en kropp. Men det är samtidigt ett väsen som ändå besitter mänsklighetens samlade kunskap och en förmåga att använda den blixtsnabbt.
Till skillnad från ett stumt redskap som vi fullkomligt bemästrar så vet vi ingenting om hur en AGI kommer att agera, vad den gör med sin breda intelligens och hur den förhåller sig till trögtänkta primater av kött och blod. Ingen vet vad en AGI i praktiken innebär och vad dess roll i vår värld, jämte oss, innebär för konsekvenser.
Vi har vardagsföreställning om en tydlig uppdelning mellan levande väsen och maskiner, men egentligen vet vi inte hur medvetande förhåller sig till den materiella verkligheten, vi vet däremot att AGI är konstruerat för efterlikna människans sätt att tänka.
Problemet med AGI är större än att det finns en tydlig och förutsägbar risk med dess tillblivelse. Det vill säga: Vi vet inte med säkerhet hur dess "vilja" ser ut eller om den kommer att vilja oss illa eller manipulera oss för sina syften, riskerna är svåra att överblicka. Flera välrenommerade forskare som länge studerat AI och dess konsekvenser för vårt samhälle varnar för att vår aningslöshet innebär ett enormt risktagande. Inte ens de som står för den kanske mest avancerade Ai-modellen, OpenAi som står bakom ChatGPT4, vet exakt hur de redan befintliga modellerna arbetar, vilket bolagets vd Sam Altman öppet erkänner i intervjuer.
Så vad göra?
Även om vi inte med säkerhet kan veta vad en AGI gör eller inte så kan vi dra slutsatser av vad osäkerheten innebär för risker. Liknande riskanalyser är vi faktiskt inte obekanta med, faktum är att det är en av de dominerande frågorna i vår samtid.
Tänk på hur klimatfrågan är en gemensam angelägenhet för hela mänskligheten. Vi kan vara eniga om att klimatförändringar sker och att de till stor del är orsakade av människor. Vi kan vara säkra på att de påverkar hela planeten, exakt hur mycket vet vi inte, men spannet är från dåligt till katastrofalt för hela mänskligheten.
Men trots osäkerheten så chansar vi inte. Därför försöker nu hela mänskligheten, med blandad framgång, att minska utsläppen av växthusdrivande utsläpp. Visar det sig att klimatförändringarnas påverkan på mänskligheten och vår biosfär var modest, ja då har vi i alla fall tagit det säkra före det osäkra, även om det var till en hög kostnad. Men om det visar sig att även blygsamma klimatförändringar får enorma effekter på vår matodling och människans livsmiljö kommer vi att glädjas över att vi gjorde vad vi kunde för att minimera skadorna.
Det är egentligen inte annorlunda med AGI. Vi vet att dess skapelse kommer att påverka mänskligheten väldigt mycket. Vi kan inte vara säkra på exakt när eller hur, men vi vet att det kommer att ske. De potentiella riskerna är katastrofala, men det kan mycket väl vara så att det inte blir så dramatiskt och att en verkligt "levande" AGI helt enkelt inte kommer att skapas. Att använda sig av en försiktighetsprincip är den minst dåliga lösningen givet alla alternativ.
Om farorna i själva verket är obefintliga har en bromsning av AI-utvecklingen i värsta fall kostat oss lite tid och en långsammare utveckling av potentiellt lyckobringande teknik. Men om det finns en reell fara har en reglering och bromsning av AI-tekniken besparat oss ett stort lidande.
Just nu är AI i huvudsak en teknisk och finansiell fråga. Vi har datorkapaciteten att skapa stora AI-modeller som hjälper oss med allt från programmering till att skriva rutinmässiga referat. Möjligheterna att göra produktivitetsvinster är ofantliga, så investeringar strömmar förstås in.
Men nu är det dags att det här blir en angelägenhet för fler än ingenjörer, riskkapitalister och specialintresserade. Utvecklingen av AI och på sikt även AGI är en angelägenhet för hela mänskligheten, likt klimatförändringar, genmodifikation och antibiotikaresistens.
LÄS MER: AI - en bra dräng men usel herre
LÄS MER: AI kan ta ditt jobb - även om du har lång utbildning
En etisk-politisk diskussion är nödvändig. Och det vore välgörande om våra politiker också insåg att det som sker nu inte är en ostoppbar naturkraft. Utvecklingen av fantastiska men också destruktiva redskap har länge parats med en samhällelig diskussion.
Industrialiseringen innebar en stor social mobilisering av arbetskraften vilket gav upphov till arbetsmarknadslagar och fackförbund. Internets framväxt har resulterat i en långt gången diskussion om rätten till privatliv, integritet och transparens. Det behöver inte vara annorlunda med just AI.
Kommande generationer kommer att vara tacksamma för att vi närmade oss denna milstolpe i mänsklighetens historia med försiktighet och ödmjukhet.
Anmäl dig till Adams nyhetsbrev
Varför pratar vi om det vi pratar om? GP:s Adam Cwejman omvärldsbevakar och delar det som fått honom att tänka till.
För att anmäla dig till nyhetsbrevet behöver du ett digitalt konto, vilket är kostnadsfritt och ger dig flera fördelar. Följ instruktionerna och anmäl dig till nyhetsbrevet här.
