Gamla metoder kan göra AI mer pålitligt
Bilden av AI som tänker själv och lär sig som människor stämmer inte ännu, konstaterar Rishi Hazra.
Dagens AI-verktyg resonerar inte – de anpassar sig främst efter mönster och statistik. För att göra ChatGPT och liknande system smartare kan lösningen vara att lita mer på traditionella metoder som har använts i årtionden. Det visar Rishi Hazra, som forskar om AI-verktyg vid Örebro universitet.
Läs avhandlingen, "Neurosymbolic Decision-Making with Large Language Models"
– Sedan ChatGPT lanserades 2023 har många beskrivit stora språkmodeller som 'intelligenta', med 'gnistor' av artificiell generell intelligens. Men bilden av AI som tänker själv och lär sig som människor stämmer inte ännu. Det krävs andra angreppssätt för att träna AI-verktyg om de ska bli mer pålitliga, säger Rishi Hazra.
Att skilja mellan hype och verklighet blir särskilt viktigt i takt med att AI-system i allt högre grad används inom planering, beslutsfattande och identifiering av säkerhetsbrister – områden där korrekt resonemang är avgörande. Stora språkmodeller anpassar sig efter mönster – de resonerar inte på riktigt.
Begränsningar i dagens system
– Inom datavetenskap kallas detta för 'Clever Hans-effekten', uppkallad efter en häst i början av 1900-talet som man trodde kunde lösa matteproblem. Det visade sig senare att hästen bara svarade på signaler från sin tränare. På samma sätt förlitar sig dagens språkmodeller på mönster i träningsdata – de resonerar inte egentligen, säger Rishi Hazra.
Rishi Hazras forskning lyfter fram begränsningarna hos dagens modeller och pekar mot en mer tillförlitlig, säker och trovärdig AI – där dagens språkmodeller kombineras med beprövade, klassiska AI-verktyg. Klassiska metoder och språkmodeller kompletterar varandra och ger bättre resultat i områden som kräver resonemang, till exempel robotik.
Gammaldags metoder kompletterar
– Dagens språkmodeller kan kombineras med 'gammaldags' metoder från datavetenskapen som erbjuder en noggrannhet som språkmodellerna själva inte kan uppnå. Traditionella AI-verktyg kräver mycket manuellt arbete och är svårare att skala upp, men tillsammans med stora språkmodeller kan de fungera mycket bra, förklarar Rishi Hazra.
Hans forskning bidrar till AI-agenter som kan arbeta självständigt och ta sig an olösta forskningsproblem. Rishi Hazra forskar i Centrum för tillämpade autonoma sensorsystem (AASS) vid Örebro universitet och ingår även i företaget Metas grupp för "AI Research Agents", där han arbetar med utveckling av modeller för hur AI-verktyg kan bedriva forskning självständigt.
Text: Björn Sundin
Foto: Björn Sundin