Under rasten i mitten av min föreläsning i grundläggande mekanik kommer en student fram för att ställa en fråga. Vi betraktar tillsammans det spretiga diagram som jag ritat med krita på den svarta tavlan och jag gör mitt bästa för att förklara vad de geometriska figurerna symboliserar. Jag lyckas inte riktigt. ”Om man ändå kunde få allting visualiserat i en dataanimering. Då skulle allt vara så enkelt att förstå!”, utbrister hon. Jag funderar en stund. Skulle det verkligen vara det? Att få allt förklarat för sig, är det verkligen bästa sättet att nå förståelse? ”Nej”, svarar jag. ”Jag tror att det är bättre att själv skapa sig de nödvändiga bilderna i sitt inre. Det finns ingen genväg till kunskap.”
I och med den artificiella intelligensens genomslag de senaste åren är detta en fråga allt fler ställer sig. Vilken är människans roll? Det står klart att maskininlärningen revolutionerat forskning som hanterar stora mängder data. Detta vittnar inte minst 2024 års Nobelpris i fysik och kemi om. Men alldeles oavsett om man räds farorna eller gläds åt framstegen borde det finnas en samsyn om att människans roll är central. Så är det inte. Inom universitetsvärlden verkar många helt ha mist allt vett och sans när de aningslöst fantiserar om hur undervisningen skall stöpas om.
Men innan vi kommer tillbaka till det, låt oss en gång för alla slå fast hur man egentligen ska se på den artificiella intelligensen. I boken ”The AI Mirrors” föreslår den brittiska filosofiprofessorn Shannon Vallor att den allra bästa metaforen utgörs av speglar. En spegel avbildar och reproducerar, men skapar inget nytt.
I den värld som väntar blir plagiatet regel
Det är precis så den maskininlärning som ligger bakom AI fungerar. Det handlar helt om kurvanpassning, statistik och sannolikhet. På samma sätt som man kan rita en graf över barnets längd, och sedan använda den för att någorlunda förutspå den fortsatta utvecklingen, behandlar den artificiella intelligensen en för oss människor oöverskådlig mängd data för att dra räta linjer och göra förutsägelser. Om de data som används utgörs av en stor del av internet går det att gissa vilken räcka av bokstäver som bör följa på en fråga som ställs till systemet. Men systemet förstår varken frågan eller innehållet i svaret, lika lite som linjen du drog på papperet vet vad ett barn är.
Ingen vid sina sinnens fulla bruk skulle heller komma på tanken att den bild vi ser av oss själva i en spegel är en oberoende och självständigt tänkande individ. Det enda som finns där är en metallisk yta täckt av glas som reflekterar ljus. Ändå betror många Chat GPT och andra stora språkmodeller om att äga en egen förmåga att lösa svåra problem. I linje med spegelmetaforen jämför Shannon Vallor med hur den grekiske ynglingen Narkissos får syn på sin egen spegelbild i en damm och blir förälskad. Narkissos kan inte släppa sin avbild med blicken, blir kvar vid dammen och tynar bort.
Utbildning och kunskap är inte ett skådespel utan handlar om hur människor av kött och blod utvecklas
Vid universiteten bejakas alltså utvecklingen på många håll. Ingen vill halka efter. I stället för att fullt ut inse problemen vill man se AI som ett sätt att utveckla och förbättra pedagogiken. Vissa beklagar sig över de juridiska begränsningar som gör det otillåtet att köra studenternas uppsatser genom AI-modeller för att på så sätt ge effektiv återkoppling. Rent tekniskt är det ju fullt möjligt att helt automatisera processen och man kan dessutom koppla detta till betygsättning och inrapportering av resultat. Kurser med hundratals studenter kan hanteras på ett ögonblick. Jag har en kollega som för nöjes skull utvecklat ett sådant system för att visa att det faktiskt fungerar. Kanske någon företagsam entreprenör vill hänga på och slå mynt av idén?
Det är också paradoxalt att detta sker samtidigt som det står klart att den misslyckade digitaliseringen av skolan skapat läs- och koncentrationssvårigheter hos en hel generation. Lika uppenbart som det borde vara att en student inte lär sig någonting av att generera en text med hjälp av AI, lika uppenbart borde det vara att en lärares professionella kunnande är beroende av att faktiskt ta del av studentens arbeten. Det är inte examensarbetet i sig som är syftet med lärandet. Det är det sätt på vilket studentens hjärna utvecklas och förändras som är poängen. När det sedan gäller att säkerställa resultatet kan AI-systemen varken garantera kvalitet eller sanning. Det yttersta ansvaret måste alltid tas av en mänsklig lärare. Och detta ansvar kräver i sin tur att läraren är delaktig i processen och på så sätt själv tillägnar sig ett professionellt kunnande. Utbildning och kunskap är inte ett skådespel utan handlar om hur människor av kött och blod utvecklas. Ingen inbillar sig att man får bra kondition av att sitta still på en stol och betrakta någon som springer. Den gåtfulla hjärnan är en del av kroppen och måste tränas på samma sätt som hjärta och lungor. Det är bara då de rent fysiska förändringar inträffar som gör en människa klok.
I den värld som väntar blir plagiatet regel. AI-systemen använder av människor redan genererade data för att skapa trovärdiga texter eller bilder. Det sätt på vilket informationen kombineras gör det omöjligt att rättvist ange relevanta källor. Detta är plagieringens första led. Det andra ledet följer när studenten tar den AI-genererade texter och kallar den sin egen. Det tredje ledet består i att läraren bedömer resultatet med hjälp av AI. Och det universitet som godkänner uppsatsen och utfärdar examen står ytterst ansvarig för plagiat i alla led.
Nu finns det de som hävdar att detta inte skiljer sig från hur det går till när en människa författar en text. En stor mängd intryck, mer eller mindre medvetna, sammanförs till en helhet. Vem har koll på allt man googlat, läst eller hört någonstans? Men det finns en alldeles avgörande skillnad mellan de reproducerande AI-systemen och människan vilken nu börjar göra sig påmind efter den inledande yran.
Systemen är nämligen inte autonoma och klarar sig därför inte utan mänskliga bidrag. Detta blir man varse om man i stället för att låta dem tränas på mänskliga data låter dem tränas på sin egen output. Följden blir att allt så småningom kollapsar. Den genererade datan innehåller inget nytt och kan därför inte förbättra systemets prestation. I stället försämras den. Ungefär på samma sätt som när man kopierar en bild i en kopieringsapparat och sedan kopierar kopian. Gång på gång. Och det är i praktiken detta som riskerar att hända på bred front. Tillgången på det mänskligt genererade är begränsad i omfattning och det dröjer inte länge innan hela internet tar slut. Dessutom läggs allt mer AI-genererat material ut på nätet där det blandas med det mänskliga och sedan ligger till grund för nästa träningsrunda.
Det finns bara ett sätt att få systemen att fortsätta att utvecklas. Mer mänsklig data. Det är just detta som skiljer människan från datasystemen. Vi är öppna för den omgivande världen, medan AI är sluten. Våra erfarenheter av att vara organiska varelser på planeten jorden under miljarder år av evolution, gör att även de dumheter vi yttrar blir likt friska fläktar i den artificiella intelligensens instängda unkenhet.
Det finns bara ett sätt att återinföra meningsfullheten
Jag kan i sammanhanget försäkra att jag för att formulera denna text inte tagit maskininlärd hjälp vare sig vad gäller innehåll, grammatik eller stavning. På så vis bidrar texten på ett positivt sätt till det som framtida AI kan tränas på. Man borde rimligen kunna lita till att universitetsvärlden också i stort fungerar som en omfattande källa av tillförlitlig och mänskligt skapad information att späda ut den AI-genererade rundgången med. Men så är det alltså inte. Redan nu är det ingen som kan garantera att de examensarbeten som godkänns vid svenska lärosäten verkligen tillför något av värde. Det handlar alltså inte bara om huruvida de fakta som presenteras är korrekta, det handlar om något mycket mer subtilt och skört.
Det finns bara ett sätt att återinföra meningsfullheten. Det står klart att all annan examination än den som sker muntligen eller är förlagd i skrivsal med larmbågar är omöjlig. Detta behöver inte nödvändigtvis vara ett problem. Om examinationen helt fokuserar på vad studenten kan åstadkomma under omständigheter helt berövade varje elektroniskt hjälpmedel tvingas studenten till att studera på sätt som gynnar just detta.
Detta är också precis det slags oberoende och självständigt tänkande individ som kommer att krävas för att tampas med AI-systemen och värdera vad som kommer ut. Hur dessa pedagogiska metoder i sin tur kommer att se ut är en annan sak. Min gissning är att de i stor utsträckning kommer att involvera helt vanlig läsning av böcker samt räknande och skrivande för hand. Kanske det kan finnas plats för lite innovativa AI-baserade metoder också.
Jag torkar av den svarta tavlan med en våt svamp. Mina svarta byxor är fulla av kritdamm men jag känner mig ändå upplyft. Jag rätar på ryggen. Detta är framtiden.
Läs också:
Ulf Danielsson: Vi får inte ge upp inför universums påfallande likgiltighet
Jenny Lantz: Chattbottarna spelar empatiska – det gör mig rasande
