På kort tid har det vi kallar för ”deep fake” – att låta en fejkad Barack Obama säga några valda ord i en video – gått från grovt till brutalt övertygande, skriver Hynek Pallas.
På kort tid har det vi kallar för ”deep fake” – att låta en fejkad Barack Obama säga några valda ord i en video – gått från grovt till brutalt övertygande, skriver Hynek Pallas. Bild: AP

Hynek Pallas: AI har gått från grovt till brutalt övertygande

AI kan göra konst, musik och journalistik. Men vad händer när AI till och med kan fejka vårt minne? Hynek Pallas ser en verklighetsfrånvänd AI-debatt som behöver ta sig an den etiska diskussionen.

Det här är en debattartikel. Syftet med texten är att påverka och åsikterna är skribentens egna.

ANNONS
|

Fotovärlden skakas just nu av en smärre skandal – av det nödvändiga slaget. Det var när konstnären Boris Eldagsen vunnit en tävling i Sony World Photography, för att sedan avslöja att fotografiet var en AI-skapad bild, som diskussionen drog i gång. Och det är något som inte bara kulturvärlden har anledning att utbrista ett högljutt ”Äntligen!” över.

Alldeles för länge var ”debatten” om artificiell intelligens verklighetsfrånvänd. Ett ständigt ”vad händer om AI en dag kan det här och tar våra jobb?” Inte: det sker nu och vi är i behov av en lika praktisk som etisk diskussion.

Att det är angelägna ämnen lär inte ha undgått någon. Det har sedan Donald Trump valdes till president 2016 talats om att vi lever i postsanningens tid – att känslor har fått företräde över fakta. Det gäller inte bara politik som bygger på narrativ, utan hela samhället. Inför valet 2016 skapades falska nyhetssajter som spred lögner om Hillary Clinton. Lätt, eftersom lokalpressen på många håll var borta.

ANNONS

Att det samtidigt har fötts förståeliga bakslag kring hur sanning och autenticitet uppfattas visade förra årets debatt om dokumentärfilmen ”Sabaya” och den pågående diskussionen om Alex Schulmans roman ”Bränn alla mina brev”. Oavsett åsikt i de debatterna är det ingen tvekan om att vi i dag måste vara noggrannare med att redovisa hur arbete med sanningsanspråk och verklighet ser ut.

All min sympati – men det är som att tro att internet skulle bli en fluga för att telefonmodem var långsamma.

Men allt detta känns förlegat i skenet av vad AI nu förmår. På kort tid har det vi kallar för ”deep fake” – att låta en fejkad Barack Obama säga några valda ord i en video – gått från grovt till brutalt övertygande. Samtidigt skojar folk om att AI minsann inte kan skriva lika bra poesi som en människa. Nick Cave exploderar i sitt nyhetsbrev över en AI-låt skriven i hans stil. Även Drake har reagerat på den uppsjö av AI-låtar som låter som han.

All min sympati – men det är som att tro att internet skulle bli en fluga för att telefonmodem var långsamma.

Den just nu bästa kommentaren om AI stod Rasmus Fleischer nyligen för (Aftonbladet 15/4). Fleischer föreslår att vi tar en paus från att alls kalla detta för ”intelligens” i ett halvår och i stället talar om ”syntetiska medier”. Även om jag själv tycker att ”intelligens”-metaforen är bra, så är behovet av att blicka på den blixtsnabba utvecklingen – och företagen bakom dem – nödvändig.

ANNONS

I det behöver vi, som Fleischer också gör, spana på möjliga scenarion i en snar framtid. Och oavsett om vi talar om syntetiska medier eller artificiell intelligens så behöver journalistiken genast rusta sig för nya utmaningar – och kulturvärlden diskutera hur det påverkar vår syn på fotografi, konst, film och litteratur.

Man kan exempelvis fundera över hur Schulmandebatten ser ut om tio år. Kanske, eftersom AI kommer skriva romaner, blir de enda böcker vi kan lita på de som är skrivna av kändisar. Med ”lita på” menar jag inte att de är ”sanna” – utan att läsaren vet att det finns en koppling mellan vad de läser och en verklig person bakom. Känd från ett kockprogram kommer vara viktigare än att faktiskt vara författare.

Dystert? Fundera på hur vi kan agera i sådana fall. Inte bara kring AI, utan åt de föreliggande brister som finns kring kulturen och journalistiken och gör fälten så sårbara.

För vi har redan gjort fundamentala misstag. Apropå internet lät vi en konstig idé om att kultur och journalistisk kunde vara mer eller mindre gratis gå över i sociala medier som tjänade multum samtidigt som lokalpress dog. Konsekvenserna har vi ännu inte sett vidden av. Men en av dem är att den tillit som är nödvändig för att tro på sanningsanspråk i samhället eroderas. Trots Sveriges i grunden höga tillit är vårt näst största parti ett som excellerar i postsanningens känslospel.

ANNONS

Eventuellt kunde man tycka att juryn skulle ha sett att en hand – AI-bildernas Akilleshäl än så länge – har för många fingerleder.

Det kan kännas konstigt att ta människan ur den analytiska och särskilt den konstnärliga ekvationen. Men AI kan redan skapa skolarbeten från lågstadienivå till högre universitetsstudier. Så då måste frågan bli varför vi ska lära oss om till exempel Förintelsen och dra egna slutsatser? Ett svar: Om vi inte gör det – vad händer när Förintelseförnekare börjar producera mer övertygande lögner om ”vår” historia än Sverigedemokraternas trubbiga propagandafilm ”Ett folk, ett parti”? Vem har kunskap att bemöta det om 25 år?

De här förändringarna kommer snabbt, oavsett lovvärda åsikter om att det är viktigt med människan bakom kulturen. Men pengar var nödvändiga för musiker, för journalistik och film. Ändå valde många bort att betala för kultur i samma stund som det gick. Och i dag betalar du mindre i månaden för Spotify än för en enda CD för 20 år sedan. Syntetiska medier kommer göra dessa saker ännu billigare, mycket snart.

Boris Eldagsen ville ha debatt om vad vi menar är fotografi. Att han får det har också att göra med att den svartvita bild han skapade, ”Elektrikern”, skulle kunna vara ett riktigt bra, klassiskt fotografi. Två kvinnor i olika generationer, den ena klär på den andra som har flera händer på sin kropp. Blickarna, intimiteten – allt berör och väcker tankar.

ANNONS

Eventuellt kunde man tycka att juryn skulle ha sett att en hand – AI-bildernas Akilleshäl än så länge – har för många fingerleder. Eller reflekterat över att ”Elektrikern” ingår i en serie kallad ”Pseudomnesia: Fake memories”.

Och just detta med falska minnen kan jag inte sluta tänka på. Om vi redan nu måste misstro precis allt vi ser inte bara i vår samtid utan också i våra gemensamma minnen – vad ska vi göra då?

Läs mer i GP Kultur:

LÄS MER:Carolas syn på svenskhet borde inte förvåna någon

LÄS MER:Vi måste gå till botten med idén om folkutbyte

LÄS MER:Historieförfalskning är farligare än n-ordet

Anmäl dig till vårt nyhetsbrev

GP:s kulturredaktion tipsar om veckans snackisar, händelser och guidar dig till Göteborgs kulturliv.

För att anmäla dig till nyhetsbrevet behöver du ett digitalt konto, vilket är kostnadsfritt och ger dig flera fördelar. Följ instruktionerna och anmäl dig till nyhetsbrevet här.

comments

Kommentarer

Vad tycker du?

Här nedan kan du kommentera artikeln via tjänsten Ifrågasätt. Märk väl att du behöver skapa ett konto och logga in först. Tänk på att hålla god ton och att inte byta ämne. Visa respekt för andra skribenter och berörda personer i artikeln. Inlägg som bedöms som olämpliga kommer att tas bort och GP förbehåller sig rätten att använda kommentarer i redaktionellt innehåll.

ANNONS