Algoritmer påverkar offentliga beslut – men ansvaret är oklart
"Algoritmer är skapade av människor och bär också med sig våra perspektiv. Det innebär att de både kan bidra till mer likvärdiga beslut – och riskera att förstärka bias", säger Karin Hedström, professor i informatik.
Algoritmer används redan i beslut som påverkar medborgare. Men det är ofta oklart vem som egentligen fattar besluten – och vem som bär ansvaret. En ny studie från Örebro universitet visar att bristen på tydliga riktlinjer riskerar att göra besluten både svårbegripliga och orättvisa.
Artikeln har publicerats i tidskriften Transforming Government: People, Process and Policy.
Studien bygger på en genomgång av forskning om automatiserat beslutsfattande i offentlig sektor mellan 2016 och 2025. Den visar att algoritmer inte bara används för att fatta beslut, utan också för att stödja olika delar av beslutsprocessen.
Det kan handla om att analysera information, upptäcka mönster, förutsäga risker eller ge rekommendationer till handläggare.
– Algoritmer används på många olika sätt som underlag för beslut. I vissa fall fattar de också beslut själva. Det gör det svårt att förstå vem eller vad som egentligen fattar beslut – och hur samspelet mellan människor och algoritmer ser ut, säger Karin Hedström, professor i informatik vid Örebro universitet.
Riskerar att förstärka bias
Algoritmer kan också påverka besluten på olika sätt.
– Algoritmer kan hjälpa till att hantera stora mängder information och ta fram underlag. Men de är skapade av människor och bär också med sig våra perspektiv. Det innebär att de både kan bidra till mer likvärdiga beslut – och riskera att förstärka bias.
Samtidigt visar studien att forskningen använder många olika begrepp för liknande typer av system. Det bidrar till en splittrad bild av hur automatiserade beslut fungerar och gör det svårare att förstå vilken roll algoritmer faktiskt har i beslut som rör medborgare.
– Om vi inte är tydliga med vad vi menar blir det svårt att veta vad vi faktiskt studerar. Det gör det också svårare att tolka resultaten och att lita på dem.
Ett annat resultat är att forskningen ofta fokuserar på effektivitet i offentlig verksamhet, medan medborgarnas perspektiv får mindre utrymme.
Akut behov av gemensamma riktlinjer
Studien lyfter ett akut behov av gemensamma riktlinjer och policyer för hur algoritmer används i offentlig sektor. Utan sådan vägledning riskerar det att bli oklart hur beslut fattas, vem som bär ansvar och hur rättvisa kan säkerställas.
– Offentliga verksamheter behöver vara tydliga med vilken roll algoritmer har i beslutsfattandet. Vi behöver förstå hur de påverkar besluten – och vara medvetna om att de också kan bära på inbyggda fördomar.
Karin Hedström är professor i informatik vid Örebro universitet. Hon är verksam inom forskningsmiljön CERIS och knuten till AI, Robotics and Cybersecurity Center, ARC.
Text: Jesper Eriksson
Foto: Jesper Mattsson