Örebro universitet deltar i nationell satsning för säkrare AI
Franziska Klügl, professor, Mauro Conti, gästprofessor, Alberto Giaretta, biträdande lektor, och Amy Loutfi, professor och föreståndare för ARC.
Artificiell intelligens används i allt fler delar av samhället – från industri och transporter till vård och offentlig sektor. Nu startar en ny nationell forskningssatsning för att stärka AI-systemens säkerhet och skydd mot cyberattacker. Örebro universitet deltar som partner genom AI, Robotics and Cybersecurity Center (ARC).
RESIST samlar forskare från Linköpings universitet, Lunds universitet och Örebro universitet, samt forskningsinstitutet RISE. I konsortiet ingår även Ericsson, Saab, Epiroc, Sectra, Siemens Energy, Combient, FOI, MSB, Cybercampus Sverige och WARA-PS.
När AI-system blir en allt viktigare del av samhällskritiska funktioner ökar också kraven på säkerhet och tillförlitlighet. Forskningscentrumet RESIST (Resilience and Security for Trustworthy AI Systems) har som mål att utveckla metoder som gör AI-system mer robusta och säkra för cyberattacker, manipulation och tekniska störningar.
SSF satsar 60 miljoner kronor på forskningen
Centrumet leds av Linköpings universitet och finansieras av Stiftelsen för strategisk forskning (SSF) med totalt 60 miljoner kronor. Flera svenska lärosäten och forskningsaktörer deltar, däribland Örebro universitet. Universitetets del av satsningen uppgår till cirka 15 miljoner kronor.
Vid Örebro universitet sker arbetet inom AI, Robotics and Cybersecurity Center (ARC), ett universitetsövergripande centrum som samlar forskning inom artificiell intelligens, robotik och cybersäkerhet.
Forskningen leds av Amy Loutfi, professor i datavetenskap och föreståndare för ARC, tillsammans med forskarna Franziska Klügl, professor i datavetenskap, Mauro Conti, gästprofessor i datavetenskap, och Alberto Giaretta, biträdande lektor i datavetenskap.
– Den här satsningen markerar ARC:s första större initiativ där AI och cybersäkerhet integreras. Genom att samla vår AI-expertis med vår nya cybersäkerhetskompetens, stärker Örebro universitet sin roll i en nationell satsning för att utveckla tillförlitliga och säkra AI-system. Samtidigt lägger vi grunden för långsiktig kompetensuppbyggnad i gränslandet mellan AI och cybersäkerhet, säger Amy Loutfi, centrumföreståndare för ARC vid Örebro universitet.
Ska göra det svårare att manipulera AI-system
Forskningsinsatsen från Örebro universitet fokuserar bland annat på att utveckla AI-metoder som är mindre sårbara för manipulation, samt på att ta fram tekniker för att tidigt upptäcka avvikelser och intrång i AI-baserade system.
Satsningen ska bidra till ökad säkerhet i AI-drivna system som används inom exempelvis industri, transport och offentlig sektor – och samtidigt stärka Sveriges långsiktiga kompetens inom säker och tillförlitlig artificiell intelligens.
– Satsningen är ett tydligt exempel på hur universitetets universitetsövergripande centrum ska verka i ett nationellt sammanhang. För ARC är detta den första större integrerade satsningen där AI och cybersäkerhet möts. Projektet stärker Örebro universitets nationella position, säger Amy Loutfi.
Text: Jesper Eriksson
Foto: Örebro universitet