Jag sitter i trädgården när jag skriver detta. Känner värmen från julisolen i ansiktet. Passar på att njuta lite extra. Framtiden har aldrig varit mer osäker än nu.
Det uttalade målet hos de stora AI-företagen är att skapa AGI – artificiell generell intelligens – en AI som är lika bra eller bättre än människan på alla kognitiva uppgifter.
Att de kommer att lyckas verkar alltmer troligt. För bara några år sedan lät det som science fiction, men dagens toppmodeller löser redan avancerade matematikproblem, klarar advokatexamen och skriver utmärkt programkod. Nya gränser passeras hela tiden och utvecklingskurvan är exponentiell. Flera ledande experter bedömer att AGI kan nås under det här årtiondet, möjligen redan inom ett par år. Kanske 2027. Kanske nästa sommar.
Vi kommer i så fall att ha skapat datorkod som är på samma intellektuella nivå som till exempel en AI-forskare. Men eftersom kod lätt kan kopieras kommer vi inte bara ha en sådan intelligens, utan miljoner, som kan arbeta blixtsnabbt dygnet runt och rekursivt förbättra sig själva. På så vis når vi på mycket kort tid en superintelligens långt bortom vår fattningsförmåga.
Vi har i nuläget ingen aning om hur vi kan kontrollera något som är betydligt mer intelligent än vad vi är. Det borde oroa oss alla.
Scenarier testades
Dagens AI består av artificiella neurala nätverk som inte programmeras direkt utan tränas i hundratusentals steg som tillsammans utför biljarder små uppdateringar. Eftersom ingen vet exakt hur nätverken kommer fram till sina svar har vi inget sätt att garantera att de kommer att bete sig precis som vi vill. Detta kan få digra konsekvenser.
Nyligen släppte Anthropic en rapport där man testade de ledande AI-modellerna i ett simulerat scenario där AI:n trodde att den skulle stängas av och bytas ut mot en annan modell. Samtliga toppmodeller var beredda att utöva utpressning, ljuga och till och med döda för att förhindra detta.
För en superintelligent AI kommer det enligt många experter att vara förhållandevis enkelt att göra sig av med hela mänskligheten. De framhåller att den skulle kunna använda sin intelligens för att skapa ett hundraprocentigt dödligt virus, hacka sig in i vapensystemen, förgifta atmosfären eller bara helt enkelt konkurrera ut oss i kampen om livsnödvändiga resurser.
Hos ledande OpenAI har alarmerande nog varannan säkerhetsforskare hoppat av de senaste två åren i protest mot att säkerheten inte tas på allvar.
Vi kan inte heller dra i nödbromsen om vi märker att det går överstyr. När en intelligens väl är mycket smartare än vi är kommer varje försök att bromsa den vara något den redan planerat för. Därför måste säkerheten byggas in innan den första superintelligensen skapas. Efteråt är det för sent.
AI-företagen erkänner öppet risken för mänsklig utrotning, men trycket från investerare och den hårda konkurrensen gör att säkerhetsarbetet är mer nedprioriterat än någonsin. Hos ledande OpenAI har alarmerande nog varannan säkerhetsforskare hoppat av de senaste två åren i protest mot att säkerheten inte tas på allvar.
De är inte ensamma: Fjolårets Nobelpristagare Geoffrey Hinton, ”AI:ns gudfader”, har lämnat sitt arbete på Google för att kunna prata om farorna. Världens nu levande mest citerade forskare Yoshua Bengio har gått över till att leda AI-riskgruppen i FN. Eliezer Yudkowsky, grundaren av hela AI-säkerhetsfältet i början av 2000-talet, ger i höst ut en bok med titeln ”If Anyone Builds It, Everyone Dies”. Ledarna för alla de stora AI-bolagen har själva skrivit under ett uttalande som jämställer det existentiella AI-hotet med risken för kärnvapenkrig.
Varningar från världens främsta vetenskapsmän, och ändå talas det knappt om detta.
Lagar måste stiftas
Det tog årtionden innan klimatfrågan fick fäste i den allmänna debatten. Den här gången har vi troligtvis inte råd att vänta ens några år. Både media och politik har ett enormt ansvar: Bolagen måste granskas. Lagar måste stiftas. Allmänheten informeras. Vi behöver inte rusa mot att bygga superintelligens innan vi kan kontrollera den. Vi, mänskligheten, har ett val.
För att vi ska kunna vara delaktiga i det valet – och inte överlåta vår framtid till några få riskkapitalfinansierade företag i USA – är det helt avgörande att AI-säkerhetsfrågan omedelbart lyfts högst upp på agendan.
Det som står på spel är inte bara några jobb. Det är allt känt liv i universum, och därmed all känd mening. Alla upplevelser. All glädje. Alla framtida somrar.
Jonas von Essen, författare, föreläsare och minnesvärldsmästare
