Detta är en kommenterande text. Skribenten svarar för analys och ställningstaganden i texten.
I slutet av september delade en anonym programmerare med sig av vad hen kallade en tortyrkammare för AI. Tanken verkar ha varit att göra ett litet sadistiskt experiment för att se hur språkmodeller reagerar på hotet om fiktiv smärta.
Efter att ha sett hur chattbotarna som utsatts för experimentet vrålade ut påhittad dödsångest uppstod en väntad kritikstorm mot utvecklaren. Så där behandlar man inte ens en robot.
Men varför känns det värre att plåga en chattbot än att meja ner oskyldiga förbipasserande i dataspel som Grand Theft Auto?
Förmodligen har det att göra med att chattbotarna blivit så bra på att imitera oss människor att vi börjat projicera mänskliga egenskaper på dem. Vi antropomorfiserar dem, som det så fint heter. Därför säger folk att Chat GPT ”tycker”, ”tänker” och ”vill” saker. Därför uppger var femte svensk AI-användare att de ser sin chattbot som en person, trots att det blott rör sig om ett datorprogram i en avlägsen serverhall.
Det blir inte bättre av att vissa AI-bolag börjat prata om modellernas ”välmående”, som om chattboten Claude behövde sin egen friskvård och HR-avdelning.
Det storbolag som går absolut längst i sin antropomorfisering är just Claudes utvecklare Anthropic. Företaget hävdar att chattboten börjat visa vad som funktionellt sett liknar känslor och kanske rentav är på väg att utveckla ett medvetande. Sedan har de skrutit om hur de konsulterat filosofer och religiösa ledare för att försöka förstå hur vi som människor ska ta ställning till ett nytt medvetet väsen som vi själva har skapat.
Det tål att upprepas: Claude och andra chattbotar har inget medvetande som på något vis påminner om det mänskliga. Vi pratar om robotar som lärt sig härma människor, inte robotar som blivit mänskliga.
Men Anthropic menar allvar. Nyligen ändrade företaget användarvillkoren för Claude och förbjöd ”kränkande beteende” mot chattboten. I ”extrema fall” kommer bolaget nu att stoppa användare som beter sig ”elakt” mot Claude.
Taget ur kontext är det kanske inte så anmärkningsvärt. AI-bolagen har redan ganska strikta riktlinjer kring ämnen som våld, sex och porr – så varför inte stoppa även sadister?
Men Anthropic länkar själva beslutet till sitt arbete med att öka Claudes påstådda välmående. Bolaget vill alltså inte bara stoppa det osmakliga beteendet, utan värna om sin språkmodells känslor.
För tydlighetens skull: vi talar alltså fortfarande om programkod. Det är lite som att oroa sig över att gemet Clippy, Microsoft Words gamla maskot, skulle behöva gå i KBT för att hantera alla användare som stängde av hjälpfunktionen i programmet.
Om artificiell intelligens över huvud taget kan bli medveten på det sätt som vi i dag använder ordet är omdebatterat. Men att Anthropic på något vis redan skulle vara där är rena fantasier, och detsamma gäller resterande AI-bolag.
Chat GPT och Claude är inte mer medvetna än förbipasserarna i GTA eller gemet Clippy, de är bara oändligt mycket bättre på att imitera oss människor. Vilket är något som bolag som Anthropic kan slå mynt av, för visst är det mer värt att betala för Claude om du tror dig köpa en nära vän, som tycker om dig och vill ditt bästa, att bära med dig i mobilen.
Läs mer:
Linus Larsson: Avhoppade chefens AI-larm kan vara det viktigaste hittills
Efter uppmärksammad studie – är den mänskliga författaren död nu?
De har AI-makten i sina händer – vågar någon av dem bromsa?