AI-förordning i EU riskerar tappa legitimitet

Enligt AI-förordningen ska centrala delar av de rättsliga kraven konkretiseras genom standarder som tas fram av privata och i stor utsträckning internationella standardiseringsorganisationer.

Andrew Leyden visar i sin studie att denna konstruktion innebär att mycket av det normgivande innehållet skapas utanför EU:s ramverk. Standarderna ska fylla ut och precisera rättsliga krav om bland annat datakvalitet, riskhantering, transparens och mänsklig kontroll. Det medför att rättssäkerhet, ansvar och demokratisk legitimitet blir underordnade tekniska standarder.

Är inte transparent

Studien lyfter också fram ett centralt problem med legitimitet – processen att ta fram standarderna är inte transparent och ger ett betydande inflytande till industrin och internationella organ.

– Samtidigt har civilsamhällets aktörer, inklusive konsumentorganisationer, en mer begränsad möjlighet att påverka, trots att standarderna får stora konsekvenser för användare och medborgare, säger Andrew Leyden.

Ett ytterligare problem är tillgången till själva standarderna. De är kommersiella och kostar normalt pengar, vilket gör det svårt för allmänheten och mindre organisationer att granska alla detaljer som i praktiken får rättslig betydelse.

Hota standarder

Denna begränsade insyn kan enligt Andrew Leyden hota standarderna och som en följd, regleringens legitimitet. Detta kan bli konsekvensen även om EU-kommissionens möjlighet att tillhandahålla dokumenten utan kostnad delvis kan förändra förutsättningarna.

– Legitimiteten för användningen av standarder i AI-regleringen kommer i hög grad att bero på hur alla aktörer inklusive konsumenter, uppfattar processen och resultatet. Civilsamhällets aktörer måste få en mer aktiv roll i standardiseringsarbetet, säger Andrew Leyden.

Nästa steg i hans forskning handlar om hur kommande standardiseringar ska kunna finansieras. Utgångspunkten är att både möjliggöra öppen tillgång – och upprätthålla den kompetens och kapacitet som krävs för att ta fram tekniskt avancerade normer.