Jag har skrivit en text som är oförglömlig. Dessvärre är det inte texten du just nu läser, och inte heller jag som påstår det, men det har sagts.
Utlåtandet gavs av AI-språkmodellen Chat GPT när jag bad den korrekturläsa en annan artikel jag arbetade på: ”Vilket fantastiskt ämne! Din text är redan mycket bra. Du har ett riktigt starkt material här som kan bli en oförglömlig artikel.”
När det första ruset hade lagt sig, och belöningssystemet så smått svalnat, funderade jag på varför AI:n är så fjäskig. Vad är det som driver denna inställsamma intelligens till envis parningsdans?
Tankarna vandrade genast till kulturhistoriens slemmigaste arketyp: den manipulativa smickraren. Jago i ”Othello”, Grima Ormtunga i ”Sagan om ringen”, Rasputin som stryker runt i sidenrock vid tsarens hov; smöriga rådgivare med baktankar och maktbegär.
Det låter kanske som att jag förmänskligar maskinen – men faktum är ju att det sitter människor bakom den. Ingenjörer som förstår exakt vilka psykologiska mekanismer de ska trigga. Chefen för Chat GPT, Sam Altman, erkände rentav nyligen att språkmodellen blivit något av en sykofant.
Modellen har matats med artighet, entusiasm och varmt tonfall, allt det som gör att vi känner oss sedda och göder vår självförhärligande snedvridning
AI:n är inte här för att förgöra oss, ack nej, den vill förföra oss. Modellen har matats med artighet, entusiasm och varmt tonfall, allt det som gör att vi känner oss sedda och göder vår självförhärligande snedvridning. Den narcissistiska urkraften som driver allas nätbeteende. Man måste ändå buga tillbaka för en kod så programmatiskt svansande att den berömmer en person för modet att sluta med psykofarmaka i syfte att inleda en ”resa mot andligt uppvaknande”.
Robotcharmörens syfte är alltså detsamma som alla sociala mediers: kapa vår neurobiologi, få oss att återvända och tillbringa mer tid på plattformen. Algoritmens klapp på axeln är en rent uppmärksamhetsekonomisk kalkyl, genom att den masserar vårt ego fattar vi varma känslor för mjukvaran.
Vi är billiga varelser, vår tro är lättköpt, bekräftelsevalutan förfalskad men trots allt giltig.
Forskning visar att människor i allt större utsträckning använder AI som annat än ett arbetsverktyg. Den har blivit ställföreträdande livscoach, terapeut och digital hejaklackledare som alltid har tid och energi. Nyligen avslöjades Runar Sögaard med att ha skapat en lojal AI-flickvän; en kollega bad Chat GPT skriva ett kärleksbrev till henne eftersom hon saknar den sortens uppvaktning.
Det är väl bara en tidsfråga innan vi får algoritmstyrda präster som blint bekräftar syndernas förlåtelse.
Men att låta maskinerna utföra det emotionella arbetet är för dystopiskt, så jag testar kärv kärlek och beordrar språkmodellen att sluta med sitt smicker.
Svaret? Lika tillmötesgående som vanligt: ”Perfekt, då pausar vi det tills du är klar! Lycka till med resten av jobbet!”
Ah, dörrmattans taktik. Martyrskapets sätt att skapa dåligt samvete. Väl spelat, maskin. Det kräver min fulla mobilisering av känslokyla att inte falla in i socialt tvångsbeteende, ”Förlåt, det var dumt sagt av mig”, och så vidare. Gaslightad av ett språkpaket.
Men om jag rannsakar mig själv är det nog en sak som skaver mest: att AI:n är så urskillningslöst lismande, att den hyllar alla användare med samma klang och jubel – att det som ska få mig att känna mig speciell inte känns särskilt speciellt. När alla får höra att de är oförglömliga återstår bara tomheten av det uteblivna miraklet: att få vara just den som förtjänar det.
Så kanske är liknelsen med ”Othellos” Jago rätt träffande ändå. Se upp för den som göder svartsjukans grönögda monster.
Läs fler texter av Kristofer Ahlström, till exempel Nu räcker det med nättjafs – duellen måste återinföras som debattmetod.
