Privat normgivning och europeisk governance av AI och robotik

Privata aktörer spelar en avgörande roll för hur system för artificiell intelligens (AI) styrs. Internationella, europeiska och nationella standardiseringsorganisationer (SDO) har påbörjat arbetet med att utveckla standarder för AI-system. Samtidigt har andra privata initiativ, såsom skapandet av uppförandekoder, självreglerande arrangemang och utformningen samt implementeringen av användarvillkor för plattformar, en betydande inverkan på regelbildningen i den digitala eran. Parallellt har internationella organ för mänskliga rättigheter, organisationer inom det civila samhället och forskare efterlyst skyddsåtgärder för mänskliga rättigheter vid utveckling och användning av AI-system, särskilt i samband med automatiserad moderering av innehåll på sociala medieplattformar.

Privat normgivning kan ha en betydande inverkan på etableringen av enhetliga tekniska, rättsliga och etiska krav för AI-system. Å andra sidan väcker överdriven delegering av makt till den privata sektorn allvarliga farhågor, inklusive brist på demokratisk kontroll, otillräckligt deltagande från intressegrupper och begränsade möjligheter till rättslig kontroll.

Även om internationell lagstiftning om mänskliga rättigheter fastställer skyldigheter om respekt och garantier endast för stater, accepteras den i allt högre grad som riktlinjer för företagens uppförande. Den signaleras även i EU-lagstiftningen som en källa som bör beaktas i företagens interna processer.

Mot denna bakgrund kommer projektet att fokusera på två arbetslinjer:

Det kommer att analysera olika (framför allt juridiska) frågor rörande privat normgivning av AI-system, såsom standardisering och certifiering, med hänsyn till insikter från andra discipliner.

Det kommer även att analysera de principer som är tillämpliga när det gäller processuella garantier för mänskliga rättigheter vid automatiserad innehållsmoderering, genom att undersöka de lösningar som tillämpas på företagsnivå och relevanta regler inom internationell mänsklig rättighetslagstiftning.