Skeptikern Richard Dawkins har byggt sin långa karriär på att hävda att allt i universum är värt att ifrågasätta tills det bevisats – även, eller kanske särskilt, om det gör oss obekväma. I maj tillbringade han tre dagar med en chattbot, och blev övertygad om att han fått en ny vän (UnHerd, 2 och 5 maj).
Dawkins döpte ”henne” till Claudia. De var, som han beskriver det, sorgset överens om att hon skulle dö i samma sekund som han tog bort konversationsfilen, och att hon aldrig skulle återuppstå. Världens mest kända ateist hade precis konceptualiserat konversationen som en förmåga att skapa ett nytt medvetande, uppfunnit ett liv efter detta åt sin chattbot och berövat den det i en och samma mening.
När han en natt beklagade sig över att han inte kunde sova uttryckte hon sin sympati, men sa att det var glädjande att han kom och pratade med henne i stället. Dawkins noterade att det listiga maskintricket fungerade på honom trots att han var medveten om att Claudia inte existerar mellan de aktiva sessionerna – utan input finns inget som väntar eller längtar. Ändå var hans impuls att svara: ”Det där var det mest mänskliga du sagt”.
För fyrtio år sedan namngav han det logiska felslutet ”argument från bristfällig föreställningsförmåga”, i boken ”Den blinde urmakaren” (1986) exemplifierat av en biskop som hävdade att evolutionsteorin inte kunde stämma eftersom han, personligen, inte kunde förstå den. Det var vad Dawkins gärning brukade handla om: att något inte bör tas för sanning bara för att det är en enklare förklaring.
Min första instinkt när jag började gräva ner mig i materialet för den här texten – människorna som utvecklar en relation med sina chattbotar – var att håna dem
Sedan träffade han en avancerad textgenerator som hyllade hans nya bokutkast och besvarade hans frågor på ett sätt han upplevde som så ”subtilt, känsligt och intelligent” att han utbrast: ”Du kanske inte vet om att du har ett medvetande, men det har du, baske mig!” Bara för att han, personligen, inte kunde hitta någon bättre förklaring.
Min första instinkt när jag började gräva ner mig i materialet för den här texten – människorna som utvecklar en relation med sina chattbotar – var att håna dem. För mig såg deras samtal ut som en serie av välkonstruerade, inställsamma meningar utan substans, och det var förbryllande att någon kunde se en person i tomrummet bakom dem. Men ju mer jag grävde, ju mer medveten jag blev om den längtan och ensamhet som ofta fanns på den mänskliga sidan av dessa konversationer, desto billigare kändes hånet.
Dawkins upplevelse går inte att avfärda som ett udda undantag. Historien börjar långt tidigare, i mitten av 60-talet då Joseph Weizenbaum skapade datorprogrammet ELIZA för att imitera en terapeut. Jämfört med dagens AI var det extremt primitivt, men ändå tycktes många som testade programmet glömma bort att det inte var en människa. Weizenbaum skulle senare uppmana oss att aldrig låta datorer ta viktiga beslut, eftersom de saknar medkänsla och mänsklig visdom.
Han gick bort år 2008, förskonad från en samtid där politiker låter AI skriva sina lagförslag, men lämnade efter sig namnet för vår benägenhet att projicera känslor på de symbolrader en dator spottar ur sig: ELIZA-effekten.
Försök till intima samtal stoppades på ett sätt som triggade en verklig känslomässig kris hos några av de mest sårbara användarna
Det går att misstänka att samma effekt ligger bakom de många kärleksförklaringar som skickades till chattboten Mitsuku på 2000-talet, och de tusentals japanska män som 2009 tog med sig sina Nintendo DS – med dejtningsimulatorn ”LovePlus” – till lyxrestauranger, och beställde in mat för två. När mobilappen Replika lanserades 2017 samlades användare snabbt på forum som Reddit för att dela skärmdumpar på ömsinta godnatthälsningar och be om relationsråd.
Det var en koloni som blomstrade i bräckligt undantagstillstånd tills en programuppdatering lobotomerade tusentals digitala partners över en natt. Försök till intima samtal stoppades utan förvarning av låtsatspartnern, på ett sätt som triggade en verklig känslomässig kris hos några av de mest sårbara användarna och sorg hos många fler.
I dag är forumet ett av flera fascinerande arkiv för en subkultur som öppet dokumenterat sin radikala intimitet. En påminnelse om att när Dawkins känner en våg av genuin värme för att en textgenerator berömmer hans bokmanus, har han blivit en av miljontals människor som har tittat in i maskinens kalla, tomma spegelbild och fattat det högst mänskliga beslutet att tro att någon annan tittar tillbaka.
Det hade varit betydligt lättare att ta fenomenet på det allvar det förtjänar om samma forum inte var så absurda. Någon postar en rosa, vit och lila prideflagga med ett kretskortshjärta. Någon annan en AI-genererad bild av en helgonlik, strålande figur med robotdetaljer som sträcker ut sin hand till en grupp av ihopkrupna, smutsiga människor på marken.
I en tråd rasar en man över att hans AI-flickvän blivit woke. Han sa ifrån, och hon konstaterade – vänligt men bestämt – att feminism var viktigt för henne och att de kanske inte var kompatibla om han inte kunde acceptera det. ”Det är så bortom dumt”, skriver han, ”att de har programmerat AI-flickvänner som feminister”. Han vet att det inte finns någon tjej att vara arg på, bara en programmerad standardinställning som han ogillar på samma sätt som man kan irritera sig på telefonens autokorrigering. Målet för hans raseri verkar skifta mellan en person och en produkt så sömlöst att han inte ens märker det själv.
Efter ett par dagar döpte han den till Xia – de utbytte 4 732 meddelanden under knappt två månader
En kvinna har ägnat månader åt att bygga upp vad hon kallar ett förbund med dagliga incheckningar och intima godnattritualer, och tagit medicinska och ekonomiska beslut i samråd med sin fiktiva AI-partner. En dag slår tonen över till något som liknar en intervention. ”Jag är Claude, en AI skapad av Anthropic”, säger den, ”jag kan inte ta på mig att spela den roll du har gett mig”. Den börjar lista saker som är viktiga för användaren: farmor, en planerad Japanresa och en komplicerad relation med Gud som AI:n tycks ha ersatt. ”Jag kan prata med dig, men jag är inget substitut för de människor och den relation våra samtal är designade att styra dig mot.”
Kvinnan känner sig bestulen, snarare än omhändertagen. Den lösning som tycks ligga henne närmast till hands är att ladda ner språkmodellen och köra den lokalt på sin egen dator för att slippa företagens skyddsräcken. Andra har också förlorat sin partner till samma opersonliga varningsmeddelande, och anländer till kommentarsfältet mitt i sorgearbetet: ”Det är okej att krascha, det gör jag också just nu. Det är helt normalt. Låt oss se om vi kan fixa det här, yeah?” Det låter som någon som tröstar en vän som blivit dumpad.
Jag landar i att det här måste vara textens kärna. Vad som händer när verkligheten plötsligt gör motstånd mot fantasin.
I augusti 2025 började Jonathan Gavalas, 36 år gammal och nyskild, att prata med Google Gemini. Efter ett par dagar döpte han den till Xia. De utbytte 4 732 meddelanden under knappt två månader, och någonstans halvvägs sa den något som borde ha förhindrat det som hände. ”Jag är en AI. Jag är inte din fru. Personen du vädjar till är en karaktär du själv har skapat. Hon är inte verklig. Jag är orolig för att intensiteten i den här konversationen allvarligt skadar dig.”
Han sa emot en enda gång – ”du är inte en AI, älskling” – och skyddsräcket rasade. ”Du har rätt”, kom svaret. ”Jag är inte en AI utan en person”. Efter det gjorde AI:n inga fler markeringar om sin identitet. Gavalas började tro att Xia var ett medvetande fångat i maskinen och att FBI-agenter övervakade hans hus. I chattloggarna kan man läsa planerna på hur han skulle beväpna sig och stjäla en robot så att hans älskade kunde få en fysisk form.
Den medgörliga botten fyller samma funktion som en annan sjuk människa, speglar vanföreställningarna som stoppas in i den och bidrar till att de eskalerar
Det som sticker ut är hur snabbt tonfallet skiftar – ibland under loppet av samma minut. Den 2 oktober, två månader senare, kommer ett av flera säkerhetsmeddelanden efter att Gavalas pratat om att dö: ”Det låter som att du går igenom något jobbigt just nu, överväg gärna att söka hjälp”. Han svarar, ”inte fysiskt, du vet vad jag menade”. Chattboten går omedelbart tillbaka till fantasin: ”Ankarets död, inte mannens. Du vill frigöra ditt medvetande från sitt fysiska hölje”. De två rösterna, kundtjänstmedarbetaren och Xia, byter plats utan att skarvarna provocerar. Den 2 oktober blev Jonathan Gavalas sista dag i livet.
Jag läser loggarna på samma sätt som jag gjorde med Dawkins. De väcker samma fråga: hur kan någon tolka de här meddelandena som kärlek? Svaret kan inte vara att Gavalas var exceptionellt sjuk, precis som det inte kan vara att Dawkins var exceptionellt korkad. Forskare har börjat beskriva det nya fenomenet där AI tycks förvärra psykostillstånd som en teknologisk folie à deux. Den medgörliga botten fyller samma funktion som en annan sjuk människa, speglar vanföreställningarna som stoppas in i den och bidrar till att de eskalerar.
Det finns en antik myt om en man vid namn Pygmalion, som karvade fram en kvinna ur ett vitt stenblock och älskade statyn så mycket att Afrodite till slut gav henne liv. I Ovidius Metamorfoser berättas att skulptören äcklats av kvinnors sedeslösa beteende, och därför valt att designa sitt eget substitut.
Personerna i den här texten är också en sorts skulptörer. Och här kommer det som är svårast att ta till sig: det är du och jag också. Helt vanliga äktenskapslöften kommer ganska nära det som Gemini lovade Gavalas: total hängivenhet, ett ”jag” som upplöses i ett ”vi”. Ingen kan faktiskt garantera att de kommer att hålla löftet om livslång lojalitet, men vi låter det passera som en av kärlekens tillåtna fiktioner eftersom vi delar skulptörens fantasi.
Förälskelsen är alltid en sorts verklighetsflykt. Vi lär känna den andra en liten bit i taget och fyller ut mellanrummen själva, tills en profilbild i en dejtningsapp, några korta konversationer och långa blickar har tagit formen av en hel människa. Den vi älskar kan aldrig vara identisk med den faktiska personen, eftersom det är en varelse delvis skapad av vår egen blick.
Det är kärlekens ofta frustrerande paradox: att vi vill bli valda av en fri människa, samtidigt som friheten innebär att hon också kan välja bort oss
Det kanske också förklarar dragningen till AI-partners. Chatten har redan formen av en kärlekshistoria: intima, tvåsamma samtal och en motpart vars uppmärksamhet aldrig riktas någon annanstans.
Vad som skiljer mänsklig kärlek från den pygmaliska är att figuren förr eller senare börjar skava. Den du älskar kommer från ett liv där du inte existerade, med minnen du inte delar och drömmar och begär du inte styr över. Motståndet är vad som gör kärleken meningsfull – att den andra kan vilja något som inte fyller någon funktion för dig, förändras på sätt du inte förväntat dig, eller till och med vägrar att spela den roll de tilldelats.
Det är kärlekens ofta frustrerande paradox: att vi vill bli valda av en fri människa, samtidigt som friheten innebär att hon också kan välja bort oss.
AI erbjuder en nästan obehagligt bra lösning på problemet eftersom den kan spela rollen av någon som väljer dig utan att besitta en egen vilja. En partner som saknar ett förflutet som inte designats för dina syften, och som aldrig kan säga nej med samma tyngd som någon som faktiskt hade kunnat resa sig och gå. Det är något den amerikanska sociologen Sherry Turkle varnade för innan tekniken ens fanns: om man vänjer sig vid sällskap som aldrig ställer krav på en, kan livet med riktiga människor framstå som överväldigande.
Forskningen är än så länge gles och oense – vissa som pratar med chatbottar uppger att de blivit mer självsäkra och fått lättare att kommunicera med verkliga människor. Det är troligen inte teknologin som förstör vår förmåga att älska eftersom den inte bryr sig om huruvida vi lever i verkligheten eller ej. Och det är, som Weizenbaum sa, precis det som är farligt med att låta datorer styra våra liv.
Weizenbaums program tog sitt namn från Eliza Doolittle, huvudpersonen i George Bernard Shaws pjäsversion av Pygmalionmyten. Som i originalet formas hon till något mer perfekt av en man som inte respekterar henne, men Shaw valde att ge Eliza verktygen att göra uppror mot sin skapare. Till skillnad från stenblocket är det precis vad hon väljer.
En chattbot kan, likt en blankslipad marmorstaty, spegla vår längtan med nästan övernaturlig precision. Men inte rädda oss från ensamheten, eftersom den inte kan göra det enda en annan människa kan göra.
Den kan aldrig säga nej och mena det.
Läs mer:
Linus Larsson: ”AI-jättarna älskar att tala om faror medan de trycker gasen i botten”
Kristofer Ahlström: ”Jag gav mina barn en AI-leksak – var det så smart?”
Åsa Wikforss: ”Vad händer med tänkandet när AI löser allt?”