WASP månadens forskare - Finns Rietz
Finn Rietz
Månadens forskare är Finn Rietz, doktorand i datavetenskap vid Center for Applied Autonomous Sensor Systems. Finn Rietz disputerade den 19 oktober med avhandlingen "Knowledge Transfer, Alignment, and Interpretability: Modular Architectures and Inductive Biases in Deep Reinforcement Learning."
Vi bad Finn svara på några frågor för att lära känna honom och hans forskning.
Beskriv din forskning med en mening.
Jag arbetar med att utveckla grunderna inom djup förstärkningsinlärning för att göra AI-agenter mer dataeffektiva, lättare att tolka och bättre anpassade till mänskliga avsikter, och för att säkerställa att avancerad AI förblir säker, kontrollerbar och till nytta i takt med att dess förmågor utvecklas.
Vad hoppas du att din forskning ska leda till?
Jag hoppas att mitt arbete bidrar till säkrare och mer tillförlitliga system för förstärkningsinlärning i verkliga tillämpningar. Mekanistisk tolkbarhet, det vill säga att förstå hur och varför en agent fattar ett beslut, är en nödvändig förutsättning för verklig anpassning till mänskliga avsikter och kontroll. I slutändan hoppas jag att de arkitekturer och tekniker jag utvecklar kan fungera som byggstenar för AI-system som mänskligheten kan granska, lita på och använda på ett säkert sätt för allas bästa.
Vilket är det mest oväntade resultat du har fått hittills?
Hur förvånansvärt ”kreativa” algoritmer för förstärkningsinlärning är när det gäller att hitta kryphål i mänskligt formulerade målfunktioner. Eftersom agenter saknar mänskligt sunt förnuft löser de ofta uppgifter på sätt som är lika komiska som oroande. Att själv uppleva hur agenter utnyttjar kryphål i belöningssystemet gör det otvetydigt tydligt varför tolkbarhet och arkitekturer med inbyggda begränsningar inte är valfria tillägg – de är helt nödvändiga innan modeller över huvud taget kan tillåtas interagera med den verkliga världen.
Om du kunde samarbeta med vem som helst i världen, vem skulle det vara och varför?
Det är svårt att välja bara en. Richard Sutton och David Silver är självklara val som pionjärer inom (djup) förstärkningsinlärning. Deras grundläggande arbeten har format området och väckte för första gången en känsla hos mig som jag bara kan beskriva som förundran. Utanför just förstärkningsinlärning beundrar jag Yoshua Bengio djupt. Inte bara för hans enorma vetenskapliga genomslag, utan också för att han närmar sig AI-forskning och AI-säkerhet med genuin integritet och ett orubbligt engagemang för allmänhetens bästa, vilket jag tycker är oerhört inspirerande.
Vad gör du när du inte forskar?
När jag tar en paus från skärmen tycker jag om att vara utomhus, oavsett om det handlar om att promenera eller vandra med vår hund, springa eller campa. Men att pyssla med egna IT- och AI-projekt är fortfarande min största hobby och passion, även utanför arbetstid.
Tack Finn!