Regler för användning av ansiktsigenkänning, ökat skydd för konsumenter och krav på riskbedömningar från företag och utvecklare ingår i det förslag från EU-kommissionen som lades fram 2021 för att skapa juridisk ordning kring AI-utvecklingen.
Ett stort steg framåt togs på torsdagen då EU-parlamentets två ansvariga utskott med stor majoritet enades om sin linje i de fortsatta förhandlingarna.
”Vi är övertygade om att vår text skapar balans mellan skyddet för grundläggande rättigheter och behovet av klara regler för företagen och för att stimulera innovation i Europa”, säger den italienske ledamoten Brando Benifei i ett uttalande efter omröstningen.
Utskotten vill bland annat förbjuda användning av ansiktsigenkänningsprogram i realtid i offentliga utrymmen.
Snabb utveckling
Fortfarande är emellertid vägen lång innan de nya reglerna kan spikas.
Först väntar sannolikt ytterligare ändringsförslag när hela parlamentet ska rösta om utskottets åsikt, preliminärt i mitten av juni. Därefter kan svåra kompromissförhandlingar inledas med EU:s medlemsländer i ministerrådet. Det sistnämnda försvåras dessutom ytterligare av att ministerrådet enades om sin syn på saken redan i vintras – och då ännu inte tog hänsyn till exempelvis de många frågor som väckts kring utvecklingen av chattrobotar som Chat GPT.
Den snabba utvecklingen är ett bekymmer och har lett till en ovanlig gemensam framstöt från Socialdemokraterna och Moderaterna i EU-parlamentet.
– Utifrån den verklighet som vi har nu är det här bra lagförslag, men sedan kommer det att behövas mer. Det är därför vi säger att det här måste vi följa på daglig basis för det sker så fruktansvärt snabbt, sade Erik Bergkvist (S) på en pressfrukost med svenska journalister i Strasbourg tidigare i veckan.
Expertutskott?
Bergkvist och kollegan Jörgen Warborn (M) har därför lagt fram förslag om att återupprätta ett särskilt AI-utskott i EU-parlamentet.
– Då kan det bli lite mer balanserade slutsatser. Man behöver både väga in integritetsaspekter och innovationsaspekter och ofta blir det så att när det här behandlas i olika utskott kan det finnas en lutning åt ena eller andra perspektivet, sade Warborn på en pressträff i tisdags.
Målet är att den nya lagstiftningen på EU-nivå ska kunna träda i kraft från 2026.
Fakta: Nya AI-regler i EU
I april 2021 kom EU-kommissionen med ett förslag på en förordning som ska reglera användningen av AI, artificiell intelligens. Syftet är bland annat att harmonisera reglerna för detta inom EU.
I förslaget delas användningen av AI in i olika risknivåer. En är oacceptabel risk, som handlar om när AI "anses utgöra ett hot mot människors säkerhet, försörjningsmöjligheter och rättigheter" och som därmed kommer vara förbjuden. Som exempel kan nämnas när stater använder AI-system för "social poängsättning".
Som "hög risk" räknas AI-system som används i kritiska infrastrukturer, utbildning, vid anställningar, eller av migration, asyl och gränskontroll. Dessa AI-system kommer att omfattas av "strikta skyldigheter" innan de släpps ut på marknaden, som detaljerad dokumentation och ändamålsenlig riskbedömning. Brottsbekämpning bedöms ligga på denna risknivå.
Med "begränsad risk" avses exempelvis chattbotar, där ett krav är att användarna ska vara medvetna om att de interagerar med en maskin. Vid "minimal risk" ska fri användning tillåtas, som vid AI-stödda videospel eller skräppostfilter.
EU:s medlemsländer i ministerrådet enades om sin syn på förslaget i december 2022. I EU-parlamentet har utskotten för inre marknad och grundläggande fri- och rättigheter röstat igenom sin linje med 84 röster mot 7 och 12 nedlagda. Härnäst väntar omröstning i hela parlamentet, sannolikt under sessionen i Strasbourg den 12-15 juni.