Replik
18/2 Ledande AI-företag spelar rysk roulette med mänsklighetens överlevnad
I sin debattartikel skriver Olle Häggström om den nya AI-chatbotten ChatGPT som nu finns tillgänglig för allmänheten. Häggström lyfter några viktiga problem till följd av denna teknologi. Tyvärr går Häggström därefter vidare till att utmåla ChatGPT som ett direkt hot mot mänsklighetens överlevnad och bara ett kort steg ifrån att utveckla egen agens inom så lite som 10–20 år.
ChatGPT är ett imponerande AI-verktyg vad gäller användbarhet och tillgänglighet, och bygger på mångårig forskning och utveckling inom maskininlärning och AI. Tekniskt sett är ChatGPT en kombination av en databas och smart användning av statistik: genom att läsa in tiotals miljarder meningar som samlats in från internet kan den generera svaret som bäst matchar användarens fråga. Sådana metoder förstår inte varför de ger svaren som de levererar. Häggströms åsikt att vi inom 10–20 år kommer ha självförbättrande, medveten och illvillig Artificiell Generell Intelligens (AGI) delas bara av en bråkdel aktiva forskare och utvecklare inom AI.
Att generera välformulerade texter för politisk påverkan, phising eller falska produktrecensioner kommer nu bli enklare
Sensationslystna påståenden om AGI riskerar att förflytta uppmärksamheten från många viktiga utmaningar som verkligen behöver adresseras här och nu. Här är några:
– AI-system är inte ofelbara, och systemens svar beror på vilken data de försetts med av människor när de tränas. Data (det vill säga websidor som Reddit) är tyvärr ofta en skev representation av verkligheten och leder till AI-system med fördomar.
– Hur och till vad bör AI används? Ska dessa system få fatta beslut om vem som ska bjudas in till en anställningsintervju, få bidrag eller släppas in i ett land?
– Hur bör utbildning och arbetsmarknad anpassas när allt fler, även högkvalificerade, arbetsuppgifter kan automatiseras? AI-system tränas på text, bilder och ljudfiler som laddas ner från internet, ofta utan hänsyn till upphovsrätt.
– Hur ska vi undvika att chattbottar används av människor för manipulation av andra människor? Att generera välformulerade texter för politisk påverkan, phising eller falska produktrecensioner kommer nu bli enklare.
Bör anpassas
AI behöver regleras och användas ansvarsfullt. Ett steg i denna riktning är EU:s kommande AI Act, vars innehåll givetvis kontinuerligt bör anpassas efter teknikutvecklingen. En rätt använd AI-teknik kommer att generera mycket gott: AI-system som bygger på samma underliggande teknik som ChatGPT används, till exempel, redan i dag för att hitta molekyler med rätt egenskaper till nya läkemedel. Vi behöver utbilda allmänheten om hur AI-system verkligen fungerar, men utan att sprida skrämselpropaganda.
Devdatt Dubhashi, professor, avd. för Data Science & AI, Chalmers Tekniska Högskola
Moa Johansson, docent, avd. för Data Science & AI, Chalmers Tekniska Högskola
David Sumpter, professor, inst. för Informationsteknologi, Uppsala Universitet