När Kurt Vonnegut skrev ”Det mekaniska pianot” 1952 var det science fiction. I dag känns det som samtidsskildring. Hans löftesrika framtidsvärld av automatiserade fabriker och kontor slutar i en våldsam kamp mellan människa och maskin.
”Människans huvuduppgift är att göra ett bra jobb som människa”, säger huvudpersonen Paul, ”inte att fungera som bihang till maskiner, institutioner och system”.
Citatet landar så mjukt i vår nutid att det kunde vara en Linkedin-uppdatering av någon organisationskonsult som unnat sig en ”mental health day”.
Medan Vonnegut genomlevde efterkrigstidens snabba mekanisering står vi nu på randen till ännu ett automatiseringsskifte: det som kallas den stora AI-revolutionen.
Det är ett rätt generöst ord för en utveckling som ingen riktigt verkar ana slutet på. Så till den grad att teknikbolagens överstepräster själva undertecknade ett öppet brev där de varnade för att teknologin kan leda till utplåning av mänskligheten.
”Så kan det gå”, för att citera en annan känd Vonnegutroman.
Klagan över att tvingas vara tjänare till maskinen snarare än tvärtom beskriver vad många upplever nu. Vi tror att AI:n ska arbeta åt oss, men utvecklingen pekar på det motsatta. Vi blir systemets sopkvastar.
Fenomenet har ett behändigt begrepp: workslop – en ordlek med uttrycket för AI-skräp, slop.
Det handlar om AI-genererat material som ser proffsigt och färdigpaketerat ut men som i praktiken saknar substans, precision eller relevans. Analyser och presentationer produceras sekundsnabbt med några få knapptryck, men kollegor måste sedan rätta till eller helt göra om allt.
En studie i Harvard business review visar att över 40 procent av anställda regelbundet får denna typ av ”AI-slarv” i knät. I genomsnitt krävs nästan två timmar per uppgift för att reda ut missförstånd eller komplettera det som saknas.
Anna-Karin Petrusson, it-utbildare vid företaget Infocell, ger exempel ur verkligheten: en kollega testade olika AI-tjänster för att skapa en enkel beräkning i Excel.
Resultatet: alla utom en (1) AI-tjänst föreslog en felaktig formel. Och sedan:
– När kollegan bad om att få resultatet levererat i en fil visade det sig att samtliga AI-tjänster hade inkluderat felaktiga formler i filen – även den som först gav rätt svar i text.
Man kan föreställa sig den särskilda sorts tystnad som uppstår på ett kontor när diagram eller tabeller visar sig bygga på feltolkad eller fellänkad data. Ett spänt stillatigande som övergår i djupa andetag genom näsan och ett aggressivt klickande på tangenter. Överblicken som måste ställas om.
Själv använde jag nyligen Chat GPT för att renskriva en handritad skiss över mitt sovrum. Resultatet såg korrekt ut: rena linjer, snygg form, full koll. Men AI:n hade tolkat ett fönster som en dörr, slagit ihop två garderober till en och flera mått blev felaktiga vid överföringen. Om jag hade följt ritningen slaviskt hade jag nu bott i en geometriskt omöjlig illusion.
Annika Waern är professor i människa–datorinteraktion vid Uppsala universitet. Jag frågar henne om vi har överskattat vår förmåga att samarbeta med AI. Hon svarar att vi snarare har överskattat AI:s förmåga att samarbeta med oss.
Det har alltid funnits slarv, och AI ger oss nya verktyg för att slarva.
En förklaring till fenomenet är att det alltid har funnits slarv, och att AI ger oss nya verktyg för att slarva, säger hon.
– Men stora språkmodeller, som Chat GPT, är i sig en lat och slarvig teknik. Den är inte byggd för att ge oss det mest genomtänkta resultatet, utan bara att generera något som ser ut som ett svar på det vi frågat om.
Visst kan man få modellen att prestera bättre: ställa frågan på nytt, kontrollera källor, begränsa materialet den ska använda och så vidare.
– Men lite är det som att piska en lat häst.
Och det finns en ny sorts kunskapsklyfta, säger Annika Waern. Den mellan dem som kan upptäcka när AI:n har fel – och de som tror att den alltid har rätt.
– En professorskollega till mig uttryckte det som att: ”När studenterna använder AI blir det dåligt, men när jag gör det blir det bra.”
Låt oss återvända till Vonneguts ”Det mekaniska pianot”. Där säger en medarbetare till huvudpersonen Paul: ”Nästan ingen är kompetent. Det är så illa ställt att man kan börja gråta när man ser hur dåliga de flesta är på sina jobb. Om du kan göra ett halvdant jobb med vad som helst, är du enögd kung i de blindas rike.”
Den krypande paranoian i att vara omgiven av okunniga medarbetare förstärks av AI-slarvet. Studien i Harvard business review visar att det skensmarta innehållet inte bara slösar tid – det sårar förtroendet för kollegorna med ett treuddat stick.
Dels i en ökad misstänksamhet.
Dels för att svaren blir slarviga.
Och dels för att de som inte använder AI jobbar lite långsammare och tycker att de andra inte gör sitt jobb.
Man tror att man blir mer effektiv, men i själva verket tar det ofta längre tid att utföra en uppgift.
Annika Waern säger att det alldeles säkert kommer att leda till att företag börjar reglera användningen av AI.
– Det kommer också leda till ett ganska hårt tryck på AI-leverantörerna att förbättra sina produkter. Min egen gissning är att vi kommer att se fler produkter där AI:n finns med som en funktion, som hur AI nu integrerats i Office-paketet.
Pontus Wärnestål, vicerektor på Högskolan i Halmstad och biträdande professor i informationsteknologi, kallar workslop ett stadigt jäsande problem. Och inte bara för att resultaten blir sämre.
Det handlar också om självbedrägeri.
– Ett ytterligare problem är att man tror att man blir mer effektiv, men i själva verket tar det ofta längre tid att utföra en uppgift.
Han pekar på en studie där AI-drivna kodassistenter faktiskt hämmade produktiviteten hos erfarna programmerare.
Utvecklarna var övertygade om att AI skulle göra dem märkbart snabbare – och fortsatte tro det även efter studien. Men verkligheten pekade åt andra hållet. Med AI tog det 19 procent längre tid att slutföra uppgifterna.
Dessutom var mindre än hälften av AI:s föreslagna kodrader användbara och utvecklarna lade mycket tid på att granska och rätta till resultaten.
Annika Waern påpekar att det är klokt att inte förvänta sig alltför hög produktivitetsökning med hjälp av AI. Det kan leda till avkall på kvalitet och skapa samarbetsproblem i organisationen.
– Men det viktigaste är att sluta falla för hajpen! Att i stället fortsätta vårda sina kärnvärden och spjutspetskunskaper och förstå att AI bara är ett verktyg av många. Mänsklig kunskap och erfarenhet kommer att trumfa slop länge än, och är en förutsättning för att vi ska få ut något meningsfullt av AI-tekniken.
Vonnegut hade nog hållit med: i ”Det mekaniska pianot” är frågan aldrig om maskinerna kan tänka, utan om människorna fortfarande kan det.
Läs fler texter av Kristofer Ahlström, till exempel: Kan debatter någonsin ändra på åsikter?
