Adam Cwejman: Överlåt inte åt tekniknördarna att bestämma över AI

Drömmen om den artificiella intelligensens frälsning bär på ett stort mått av misantropi.

Det här är en åsiktstext från GP Ledare. Ledarredaktionen är oberoende liberal.

ANNONS

I den nya Netflixserien Three body problem, baserad på Liu Cixins bok med samma namn, finns det en rörelse av människor som välkomnar att mänskligheten kommer att styras av en utomjordisk civilisation på jakt efter en ny hemplanet.

Rörelsens resonemang är enkelt: Vi människor är alltför känslostyrda och destruktiva för vårt eget bästa. Till slut kommer det att leda till att vi utplånar varandra, vi behöver därför underordna oss ett mer logiskt styre.

Att en utomjordisk civilisation har siktet inställt på jorden är förstås fantasi. Men inställningen som den här rörelsen i serien och boken hyser är faktiskt inte så främmande i vår tid. Ett expertstyre eller en upplyst frälsare behöver inte anta formen av en utomjordisk civilisation, det räcker gott och väl med den artificiella intelligens som mänskligheten just nu ägnar stor möda åt att skapa.

ANNONS

När den globala allmänheten för första gången fick använda sig av en AI-tjänst så var det som att en ny tidsålder påbörjades. Entusiasmen var enorm och snart varje företag som kunde formulerade AI-strategier. Det har plöjts ned otaliga miljarder i dessa projekt och samtliga stora tekniktunga bolag tävlar om vem som kan skapa den mest avancerade och praktiskt tillämpbara AI-modellen.

Tjänsten ChatGPT, skapad av OpenAi, är nu inne på sin fjärde version. Det finns även gott om andra LLM-modeller (Large language models) som har tränats på mänsklighetens samlade skriftkällor. Nu kommer motsvarande AI-modeller som även tränas på ljud och bild, till exempel Open Ai:s Zora.

Under den första ”AI-våren” 2023 diskuterades möjligheterna – men även riskerna – med dessa tjänster. AI-modellerna uppvisade konstiga beteenden, bland annat så kallade ”hallucinationer” och spottade i bland ur sig väldigt förvirrande resultat. Att de dessutom kan användas för att skapa desinformation, både i text, ljud och bild ligger i utvecklingens riktning.

En rad välmeriterade AI-forskare har varnat för att detta bara var en försmak av som sker när den exponentiella utvecklingen av AI-modeller når en kritisk punkt där en så kallad AGI, artificiell generell intelligens uppstår. Detta är en AI som uppvisar människoliknande kognitiva förmågor.

ANNONS

Men varningsropen har hittills varit förgäves. Det finns, i likhet med rörelsen i Three body problem, en stark dragning bland teknikoptimister i branschen att betrakta AI som en sorts teknisk frälsare. Den här högst informella rörelsen av teknikoptimistiska hypermodernister utgör idag, tillsammans med rädslan att hamna på efterkälken i AI-kapprustningen, ett hinder mot att det uppstår meningsfulla regleringar av framtidens artificiella intelligenser.

Exemplet OpenAi bär syn för sägen. När bolagets vd, Sam Altman, förra hösten fick sparken av sin styrelse för att han inte var tillräckligt försiktig med utvecklingen av AI-modellerna så kom reaktionen blixtsnabbt. Personalen ville i likhet med Microsoft (som äger 49 procent av det tidigare icke vinstdrivande bolaget) ha tillbaka Altman. Det tog en vecka innan styrelsen fick backa.

Utvecklingen går så snabbt att några statliga eller internationella regleringar inte hinns med. Försöket att förra året införa ett slags moratorium på utvecklingen av AI-modeller möttes av tystnad. Det vi ser är i stället en kapprustning, både mellan stora multinationella företag och stater, kring vem som snabbast kan utveckla de mest potenta AI-verktygen.

Eran av ständigt mer avancerade AI-modeller som vi nu genomlever liknar på många sätt utvecklingen av sociala medier och det förändrade liv de har inneburit för miljarder människor. Hela 2010-talet var en epok präglad av tekniska framsteg som förändrade alltifrån ekonomin till den psykiska hälsan.

ANNONS

Det tog många år innan avigsidorna började uppmärksammas, än mindre regleras och ifrågasättas på något som helst vis. Annorlunda lär det inte bli med utvecklingen av AI – viljan till makt, förmögenhet och framåtskridande är några av mänsklighetens starkaste drivkrafter.

Att vi som civilisation kommer att ställas inför väldigt stora förändringar råder ingen tvekan om. I det mest milda fallet handlar det om ekonomiska utmaningar: Hur fördelas vinsterna av AI-utvecklingen?

Vad AI-modeller i den bästa av världar gör är att öka produktiviteten på många sätt. Alltifrån medicin, kemiska processer till programmering förändras. Vill det sig väl så är detta inflationsdämpande och välståndsskapande. Baksidan är att det kan leda till en kapitalkoncentration som får det 2010-talets framgångar för Microsoft, Alphabet och Amazon att framstå som blygsamma.

I värsta fall handlar AI-utvecklingen om ett snabbspår till mötet med ett intelligent väsen som saknar våra referensramar av att vara människa men vida överstiger vår kognitiva kapacitet. Även om det enbart är en teoretisk möjlighet så vore det oansvarigt att inte laborera med de etiska och moraliska utmaningar som detta innebär.

Om det inte på allvar förs en sådan diskussion (görs) så lämnas avgörandet i händerna på de, både misantropiska och teknikoptimistiska, krafterna i världen. Det politiska ointresset för vad teknisk förändring innebär för vår värld är och har länge varit ett problem. Det krävs betydligt mer nyfikenhet och kunskapstörst så att det demokratiska samhället inte blir fullkomligt akterseglat av AI-modellernas mest aningslösa idealister.

ANNONS

Anmäl dig till Adams nyhetsbrev

Varför pratar vi om det vi pratar om? GP:s Adam Cwejman omvärldsbevakar och delar det som fått honom att tänka till.

För att anmäla dig till nyhetsbrevet behöver du ett digitalt konto, vilket är kostnadsfritt och ger dig flera fördelar. Följ instruktionerna och anmäl dig till nyhetsbrevet här.

ANNONS