Storskaliga språkmodeller, som AI-tekniken bakom exempelvis Chat GPT, Gemini och Llama kallas, besvarar allt fler av våra frågor och är för många en uppskattad rådgivare i vardagen.
Var femte svensk – närmare hälften i åldern 15 till 25 – ställer frågor till AI-verktyg i stället för att använda sökmotorer som Google, enligt Internetstiftelsens årliga rapport ”Svenskarna och internet”.
Dessa system är matade med enorma mängder text och deras svar baseras på sannolikhet. Men det är inte alltid AI-botarna är pålitliga – och hur ska man förstå när de inte är det?
Richard Johansson, professor i data- och informationsteknik vid Göteborgs universitet, forskar om varför språkmodeller ger felaktiga svar.
– En sak som är väldigt tydlig är att ju mer någonting nämns i den text som man har tränat systemet på, desto större chans är det att man får ett vettigt svar på en fråga om det, säger han.
När den intränade informationen inte är tillräcklig för att besvara en viss fråga tar till exempel Chat GPT hjälp av en sökmotor – det vill säga googlar åt oss och presenterar svaret inom några sekunder. Tekniken bakom detta kallas ”retrieval augmented generation” (RAG) och används just för att göra faktafrågor mer pålitliga, förklarar Richard Johansson.
Men frågor som vi själva har svårt att besvara genom att söka på webben, är ofta också utmanande för chattbotar.
– Jag skulle säga att när det gäller lite mer exotiska faktafrågor i ovanliga ämnen så finns det fortfarande en hyfsad risk att få felaktig information. I bästa fall säger modellen ”jag hittar ingen information om detta, så jag kan tyvärr inte svara”. Men jag ser fortfarande ibland när man ställer väldigt svåra frågor – där det är svårt att söka fram ett resultat – att modellen bara hittar på.
Richard Johansson framhåller dock att språkmodeller är praktiska verktyg och hjälpmedel, med förmåga att hitta information som man annars inte hade snubblat över. Tekniken ska dock inte hanteras okritiskt.
– Om jag googlar och får lite olika träffar brukar jag kolla om det är något vettigt. I princip får man ha samma attityd när man använder språkmodeller när man söker information, att man har attityden att man behöver dubbelkolla.
Ha som vana att undersöka källorna som AI-boten hänvisar till, råder han.
– Det kan hända att den hittar på saker som ser ut som en bra referens, men det är inte säkert att det är underbyggt.
Rapporten ”Svenskarna och internet” visar att det finns en utbredd skepticism mot chattbotars pålitlighet. Samtidigt ser en del dem som allvetande kompisar som tidseffektivt ger svar om allt från sjukvård till samhälle och politik.
Olof Sundin, professor i biblioteks- och informationsvetenskap vid Lunds universitet, varnar för att synen på generativa AI-verktyg som faktamaskiner riskerar att urholka vår källkritiska förmåga.
– Jag tycker det är väldigt viktigt att inte använda dem för faktafrågor. Det är en annan sak att testa en text eller en idé, men inte för att söka efter information, säger han.
Grundläggande för att kritiskt granska källor är att kunna ställa sig frågan: Vem är upphovspersonen? Något som är omöjligt att besvara när språkmodellen baserar sitt svar på informationen som den har tränats på, förklarar Olof Sundin.
– Och i det fallet där språkmodellen integrerar ett slags sökmotorfunktion är utmaningen att vi nöjer oss med den sammanfattning vi får. Vi ifrågasätter många gånger inte texten, säger han om RAG-tekniken.
Hur informationen presenteras är också problematiskt, fortsätter han. Med personlig ton och övertygande formuleringar serverar språkmodellen vad han beskriver som färdigtuggad text. Vi matas utan att behöva fundera över hur olika källor förhåller sig till varandra.
– Det gör att den källkritiska träningen som vi i alla fall då och då utsätts för, den försvinner ju.
Olof Sundin forskar just nu om hur AI används och integreras i skolundervisningen och framför allt på högstadiet. Även om – eller kanske just för att – generativ AI medför risker och utmaningar när det gäller informationsinhämtning, tror han att det är viktigt att tekniken får ta plats i undervisningen.
– Och inte bara som ett hjälpmedel, utan snarare ett undervisningsinnehåll där man faktiskt får utveckla en kritisk förståelse för hur den digitala infrastrukturen påverkar oss både som individer och som samhälle i stort.
