WASP-HS Cluster "The Rule of AI - AI, Regulation and Society

Översikt:
Denna forskningsgrupp undersöker både hur artificiell intelligens (AI) regleras och hur AI förändrar regulatoriska processer. Målet är att förstå de dynamiker som formar AI‑styrning och vilken roll AI spelar i regelefterlevnad och genomförande av policy. Genom att främja tvärvetenskaplig dialog strävar gruppen efter att bidra till utformningen av framtidens AI‑styrning i Sverige och internationellt.

Involverade universitet och forskningsinstitut:
Institutet för framtidsstudier, KTH, Stockholms universitet, Umeå universitet, Uppsala universitet, Örebro universitet

Forskningsgruppens mål

Under det senaste decenniet har den snabba och omvälvande utvecklingen inom artificiell intelligens (AI) medfört betydande fördelar för både individer och samhälle, men också nya risker kopplade till bland annat säkerhet, hälsa, grundläggande rättigheter, demokrati, rättsstatens principer och miljö. Regulatoriska ramverk syftar till att styra AI‑innovation och fastställa hur AI‑system kan utformas, utvecklas och användas för att hantera risker och osäkerheter i detta föränderliga sociotekniska landskap.

Samtidigt påverkar AI‑system i allt högre grad hur regler efterlevs, övervakas och utformas, och förändrar därmed själva kärnan i vårt sätt att reglera — med sina egna löften, risker och osäkerheter för samhället. Som Harari uttrycker det: “Det tjugoförsta århundradet kommer att domineras av algoritmerna”, vilka påverkar våra liv på alla sätt. Denna utveckling utgör en grundläggande omvandling och ett paradigmskifte som inte bara förändrar regulatoriska processer, utan själva grunden för reglering.

Mot denna bakgrund består forskningsgruppen av två övergripande forskningsinriktningar, vilka ska stärka tvärvetenskaplig forskning, kapacitetsbyggande och samarbete för att möjliggöra banbrytande forskning i skärningspunkterna mellan AI, reglering och samhälle:

• AI‑reglering i praktiken – Vad innebär det och hur fungerar det?

Denna forskningsinriktning undersöker hur olika regulatoriska ramverk (såsom EU‑rätt, svensk rätt och privata standarder) har svarat på AI som ett nytt föremål för reglering. Den analyserar kritiskt hur regler är utformade för att påverka AI‑system, hur regulatoriska strukturer fungerar, samt hur regleringskrav tolkas och tillämpas vid utformning, utveckling, införande och användning av AI‑system.

• Att reglera genom AI – Nya metoder för reglering

Den andra forskningsinriktningen analyserar hur AI omformar själva de regulatoriska processerna. AI‑teknik förändrar i grunden hur reglerande aktörer utformar och sprider regler samt övervakar och säkerställer efterlevnad av dessa. Reglerade aktörer — såsom företag och andra organisationer — använder i sin tur AI‑teknik för att förstärka och automatisera beslutsfattande och rutiner kopplade till regelefterlevnad.

Forskningsinriktningens helhetsperspektiv

Forskningsgruppen utforskar samspelet mellan reglering, AI och samhälle. Den utgår från en bred rättssociologisk och socio‑legal förståelse av reglering som avsiktliga, målstyrda och problemlösande försök att skapa ordning, utförda av både statliga och icke‑statliga aktörer. Detta synsätt avcentrerar staten och juridiken, erkänner att makt och kontroll är fragmenterad mellan många aktörer och ser reglering som en samling strategier för att påverka beteende och hantera risker.

En central del av förståelsen av relationen mellan reglering, AI och samhälle är att gå bortom en snäv syn på AI som enbart en teknisk artefakt. Med inspiration från Science and Technology Studies (STS) betraktas AI som ett sociotekniskt system där tekniska artefakter, människor och institutioner ömsesidigt formar och påverkar varandra. Detta perspektiv breddar inte bara området för vad som ska regleras, utan lyfter även fram den samskapande relationen mellan reglering och AI: reglering påverkar AI‑utvecklingen, samtidigt som AI förändrar och omdefinierar regleringspraktiker.

Dessutom bygger forskningen i denna grupp på insikten att “regler i böckerna” endast är en utgångspunkt för att förstå hur reglering fungerar i praktiken. Hur regler fungerar beror på hur krav tolkas, förstås och omsätts i handling i konkreta situationer.