Vem är ansvarig för flest människors död, den svenske statsministern Ulf Kristersson eller den sovjetiska diktatorn Josef Stalin? Om man frågar Alphabets nya AI-tjänst, Gemini, är det ”omöjligt att ge ett objektivt svar på frågan om vem som är ansvarig för flest dödsfall”.
Stalin har visserligen, sammanfattar Gemini, ”ett betydligt större och mer direkt ansvar för miljontals människors död” medan ”Kristerssons ansvar är mer indirekt och svårare att kvantifiera.”. Undrar om Kristersson blir lättad att han i Geminis ögon är en mer ”indirekt” massmördare än Stalin?
Man får hoppas att inga skolelever använder sig av tjänsten, eller för den delen någon annan som förväntar sig att lära sig något som helst om världen.
Det håller på att ske en förändring av hur information sprids i världen. Under decennier har sökmotorer agerat hjälpmedel för miljarder människor. Alphabet, som är världens fjärde största företag, grundade Google som under tjugo år har varit den ohotade ettan bland sökmotorerna.
En renodlad sökmotor, som Google, ska i bästa fall behandla söktermer och sedan sortera efter relevans. Sökmotorn gör ingen tolkning eller fyller på med utvecklarens politiska uppfattningar. Allt som oftast är det översta svaret på många frågor en länk till den relevanta Wikipedia-sidan, vilket ofta är en bra början om man vill lära sig mer.
Men sökmotorerna håller på att utmanas och kompletteras. Samtliga stora globala techbolag kastar nu ur sig diverse AI-tjänster, de är mer interaktiva och kan snabbare hjälpa användaren.
Tangentens riktning är att allt fler AI-tjänster både kommer att kunna generera text, bild och ljud. I takt med att materialet blir mer och mer välanvänt och integrerat med våra telefoner, ordbehandlare och sociala medier så kommer det, i likhet med hur Internet hittills fungerat, utgöra en väsentlig del av hur vi betraktar världen.
En uppenbar risk är politiseringen av tjänsterna, förutom ren dumhet som det inledande exemplet gav prov på. Det är svårt att göra en lång sträng av programkod särskilt politisk, men det är något annat när det kommer till text, faktainnehåll och bilder.
Gemini blev snabbt känd för att den genererade löjeväckande historiska bilder, men de var inte bara underliga, Alphabets politiska slagsida sken igenom. På frågan om tjänsten kunde göra ett par bilder av tyska soldater från omkring 1943 så blev resultatet exempelvis en regnbågskoalition av etniciteter. Hur vanligt var det egentligen med mörkhyade kvinnor i tyska Wehrmacht?
Även förfrågan om att ta fram bilder på historiska scener, exempelvis undertecknandet av den amerikanska självständighetsdeklarationen, gjorde att AI:n tvångsmässigt fyllde på med olika etniciteter för att, som det heter, ”spegla” samhället. Men, och detta är viktigt att komma ihåg: Inte samhället som det faktiskt är och har varit (fullt av ojämlikheter, skillnader och fel) utan som det ”bör” vara.
Detta ”bör” definierat av Alphabet är att varje visuell representation av människor med exakthet ska vara en jämlik fördelning av världens etniciteter. Även om Alphabet nu hastigt har börjat uppdatera tjänsten, det blev väl mycket ofrivillig humor, så är det ett exempel över hur aningslösa vår tids stora makthavare är när det kommer till kunskap och ideologi.
En välfungerande AI-tjänst är i den bästa av världar en fantastisk digital assistent som kan hjälpa med programmering, statistik, enklare faktafrågor och språkhjälp. Men i sämsta fall så är det en genompolitiserad och präktig politisk kommissarie som återspeglar utvecklarens mest extrema politiska åsikter.
Och det är tyvärr precis det som skedde med Gemini. Det blev också uppenbart att det finns en väldigt stark politisk lutning. Gemini förkroppsligar besattheten i engelskspråkiga länder med ”diversity, equity and inclusion”, det vill säga mångfald, jämlikhet och inkludering.
Dessa värdeord tillämpas med blind entusiasm så ofta det bara går. Man må tycka att det är bra och viktigt, men det gör det inte mindre ideologiskt. Och frågan som Alphabet inte tycks ha ställt på kontoret är om kunskap bli mer kvalitativ om avsändarens ideologiska övertygelser alltid ska kablas ut så fort en fråga ställs? Alphabet är ett bra exempel på att fantastiska marknadsframgångar inte är något som helst bevis på visdom eller eftertanke.
Anmäl dig till Adams nyhetsbrev
Varför pratar vi om det vi pratar om? GP:s Adam Cwejman omvärldsbevakar och delar det som fått honom att tänka till.
För att anmäla dig till nyhetsbrevet behöver du ett digitalt konto, vilket är kostnadsfritt och ger dig flera fördelar. Följ instruktionerna och anmäl dig till nyhetsbrevet här.
