Slutreplik
24/2 Sprid inte skrämselpropaganda om artificiell intelligens
18/2 Ledande AI-företag spelar rysk roulette med mänsklighetens överlevnad
Frågan om framtiden med artificiell intelligens (AI) och de ofantliga möjligheter och risker som tekniken erbjuder är mycket viktig – men också förbisedd. Jag gläder mig därför åt att Devdatt Dubhashi, Moa Johansson och David Sumpter fördjupar sig i detta ämne (24/2) som svar på min tidigare artikel i dessa spalter (18/2)
Utgångspunkten för min första artikel var chatboten ChatGPT, som AI-företaget OpenAI släppte till allmänheten i slutet av förra året, och som uppvisar en nästan kuslig förmåga att föra (åtminstone till synes) intelligenta konversationer på de mest skilda områden. Tyvärr missförstår Dubhashi, Johansson och Sumpter mig alldeles när de hävdar att jag ”utmålar ChatGPT som ett direkt hot mot mänsklighetens överlevnad”. Nog för att ChatGPT imponerar, men fullt så kapabel skulle jag aldrig hävda att den är.
Vad jag däremot hävdade i min artikel var att utvecklingen går rasande snabbt, och att de ännu mer avancerade AI som OpenAI och deras konkurrenter tävlar om att bli först med att skapa kan komma att få denna förmåga. Detta innebär en högst reell undergångsrisk för mänskligheten om AI-företagen får sådan brådska att de inte hinner säkerställa att de nya produkterna är ofarliga. Ett illavarslande tecken är att OpenAI släppte ChatGPT innan de lyckats bygga in spärrar mot exempelvis rasistiska uttalanden eller instruktioner för drogtillverkning och annan kriminalitet.
Min hjärna består av atomer som var och en för sig saknar tankeförmåga – och ändå tänker jag
Den grundläggande oenigheten i denna debatt är att Dubhashi, Johansson och Sumpter till skillnad från mig inte tror att de ledande AI-företagen har någon chans att skapa så kallad artificiell generell intelligens (AGI). De antyder två argument, nämligen (a) att AI byggs upp av enkla icke-intelligenta komponenter och därför inte kan tänka på riktigt, och (b) att bara ”en bråkdel aktiva forskare och utvecklare inom AI” delar min uppfattning att AGI är möjligt i någorlunda närtid.
Argument (a) kan låta rimligt, men är i själva verket ett fatalt feltänk eftersom samma argument visar att inte heller människor kan tänka. Min hjärna består av atomer som var och en för sig saknar tankeförmåga – och ändå tänker jag.
Orimligt våghalsigt
Påståendet (b) är gravt vilseledande. Det är visserligen sant att det finns gott om AI-forskare som inte tar AGI på allvar, men om vi ser på de allra mest framgångsrika forskargrupperna inom AI – de som finns på OpenAI och på deras konkurrent DeepMind – så är situationen en helt annan. Dessa ledande forskare är övertygade om att AGI ligger inom räckhåll, och de gör allt de kan för att nå dit.
Det skulle såklart kunna vara så att denna världselit inom AI har överdrivna förväntningar på fortsatta framsteg, men jag menar att det vore orimligt våghalsigt av oss andra att ta detta för givet. Vi behöver reglering som håller de ledande AI-företagen i strama tyglar som hindrar dem från att rusa okontrollerat mot det som i värsta fall kan bli vår undergång.
Olle Häggström, professor i matematisk statistikm på Chalmers