Bing är Microsofts nya söktjänst som genom AI ger svar på användarnas frågor. Tony Jönsson, som är historieintresserad och bor i Nilssonsberg, frågade textroboten om områdets historia. Och till svar fick han att det bombades under andra världskriget.
– Jag blev väldigt häpen att det var just Nilssonsberg som bombades och kände att ”jag måste kolla vidare”. Har jag missat det här? Har appen av misstag kunnat ge det här svaret?
Efter flera Google-sökningar som inte gav några träffar, gick Tony in i appen på nytt. Flera gånger frågade han "bombades Göteborg under andra världskriget?". Förutom att svaret återkommande var ”ja” gav textroboten specifika datum, daterat september 1944, antal dödsfall och släppta bomber. Med källhänvisning till bland annat GP.
– Jag var tvungen att testa flera gånger. Någon gång bombades 5 806 ton bomber, en annan gång tusen stycken. Ett svar sa att det var USA som låg bakom attacken, i nästa var det England. Även tyska plan skulle ha bombat Göteborg uppgav appen.
Vad tänker du om det ansvaret Microsoft har?
– Det är kusligt då det nu skrivs mycket om förträffligheterna med GPT-4, inte minst när Microsoft lanserar en app som bygger på den. Hur skall vi kunna lita på informationen som sprids, säger Tony Jönsson.
– Det här är framtidens uppslagsverk. Man har matats med att vara källkritisk i hela livet men det här får en helt annan dimension.
Microsoft svar: ”Vi förväntar oss att appen gör fel”
Och det är inte bara Tony Jönsson som matats att vara källkritisk. Microsoft själva uppmanar användarna till att dubbelkolla svaren AI-appen ger.
Andreas Wingren, PR- och Kommunikationschef på Microsoft Sverige säger till GP att företaget känner till felen med Bing och att man får räkna med att appen gör misstag.
– Vi förväntar oss att systemet kan göra misstag under den här förhandsgranskningsperioden. Feedback är därför avgörande för att hjälpa till att identifiera var saker och ting inte fungerar bra, så att vi kan lära oss och hjälpa modellerna att bli bättre.
Hur ställer ni er till att er AI-app ger felaktig fakta och källor till era konsumenter?
– Vi har stora team som arbetar med att ta itu med frågor som desinformation och att förhindra marknadsföring av skadligt eller diskriminerande innehåll i linje med våra AI-principer. Vi är fast beslutna att förbättra kvaliteten av upplevelsen över tid och att göra den till ett användbart och inkluderande verktyg för alla, säger Andreas Wingren.
Historiker: Bombhotet mot Göteborg år 1944
Appen som Microsoft har skapat är baserad på ChatGPT, en chattrobot eller virtuell assistent som kan besvara faktafrågor, skriva användbara texter i olika genrer och samtala på ett människoliknande sätt på många olika språk.
Så hur kan en textrobot berätta att Göteborg bombades under andra världskriget, när det i själva verket inte är sant? Historikern Lars Hansson, specialiserad på Göteborgshistoria under andra världskriget, tror sig ha svar på frågan.
För några delar av textrobotens svar har faktiskt ett samband: Göteborg, bombning och 1944.
– Under andra världskriget var svenska kullager en eftertraktad vara för tyskarna och SKF i Göteborg var en av världens största kullagertillverkare. Huvuddelen av exporten av kullager gick till Tyskland, något amerikanarna inte tyckte om.
Den svenska regeringen och SKF blev under den här tiden hårt pressade av USA att stoppa kullagerleveranserna till Tyskland.
– Under ett möte talade den amerikanska förhandlaren om för de svenska förhandlarna att under en dag, när det ligger mycket dimma över Skandinavien skulle de missa Hamburg. Och göteborgarna skulle vakna upp till ett bombat och ödelagt SKF.
– Många trodde det var en bluff. Men de visade sig vara rejäla hot. Amerikanarna var förbaskade, säger Lars Hansson.
Stoppade leveranserna
Någon bombning blev aldrig av. Men efter ytterligare hot om att om svartlistning och bombning av SKF:s fabriker på Artillerigatan i Gamlestaden, stoppade bolaget i början av oktober 1944 alla sina leveranser till Tyskland.
Tony Jönsson, som ständigt håller koll på det senaste inom teknik, hoppas att AI utvecklas så pass mycket så något liknande inte kommer hända i framtiden.
– Jag hoppas att det här är en barnsjukdom. Men det är ett farligt sätt att låta offentligheten testa en ofärdig produkt.
LÄS MER:Värsta fördomarna om Borås enligt AI-roboten: ”Snåla och...”
LÄS MER:Skolverket avråder från inlämningsuppgifter som betygsunderlag
