Jacob Coxon har tidigare jobbat med att utveckla artificiell intelligens hos de konkurrerande jättarna Open AI och Anthropic, innan han nyligen sade upp sig från den sistnämnda. Under tisdagen gick han ut på plattformen X för att varna för sina forna arbetsgivare.
”Inget av företagen agerar ansvarsfullt. De kör i full fart mot självförbättrande superintelligens och de spelar med våra liv”, skriver Coxon.
Självförbättrande superintelligens är den punkt då en artificiell intelligens blivit överlägsen det mänskliga sinnet, och dessutom lärt sig att skriva om sin egen programkod så att den utvecklas och blir allt mer kompetent. Det är ett hypotetiskt scenario som många AI-kritiker varnat för genom åren.
”Underskatta inte kraften i den här tekniken. Det kommer snart att finnas superintelligenta system som kan hacka vad som helst, revolutionera vilket fält som helst över en natt, och förvärva verklig makt och resurser”, skriver Jacob Coxon i ett inlägg som i skrivande stund visats över 140 miljoner gånger.
I en intervju med techtidningen Wired utvecklar Coxon sitt resonemang och säger att han tror att artificiell intelligens kan utplåna mänskligheten eller skapa en förödande katastrof genom att exempelvis ta fram nya, kraftfulla biologiska vapen eller genomföra massiva cyberangrepp mot kritisk infrastruktur.
Han får dessutom understöd från ett något oväntat håll. Evan Hubinger, som leder ett arbetslag på Anthropic som arbetar med att skapa säker AI, instämmer i sin forna kollegas varning.
”Jacob har rätt – vi tror verkligen på riktigt att AI skulle kunna döda alla människor! Personligen tror jag risken för det är över 10 procent under det närmaste årtiondet”, skriver Hubinger på X.
Microsoft-grundaren Bill Gates varnade nyligen för att hotet från AI är mycket större än vad techbranschen vill ge sken av, och FN:s människorättschef Volker Türk gick nyligen ut och sa att artificiell intelligens kan bli ett ”existensiellt hot” mot mänskligheten.
Debatten om huruvida AI utgör ett sådant hot tog fart på allvar efter den svenska filosofen Nick Bostroms bok Superintelligens: De tänkande maskinernas tidsålder, som släpptes 2014. Varningarna för ett katastrofscenario har därefter blivit allt mer högljudda efter de senaste årens stora tekniska framsteg inom AI-utvecklingen.
Fredrik Heintz, som är professor i datavetenskap vid Linköping universitet, forskar själv om artificiell intelligens och har följt debatten under lång tid. Han säger att den typ av varningar som Jacob Coxon och Evan Hubinger nu lyfter inte är något nytt.
– Men hotet mot mänskligheten är inte den risk jag är mest orolig över när det kommer till artificiell intelligens. Samtidigt kan man ju inte säga att det är omöjligt, säger han till DN.
Han menar att det finns betydligt större och mer akuta problem att tackla när det kommer till artificiell intelligens. Områden där redan dagens modeller kan användas för att skapa stor skada.
– Jag tror att exempelvis cybersäkerhet är en mycket större risk. Elaksinnade aktörer kan använda AI-modeller för att ta sig in i it-system som de inte borde ha tillgång till vilket skulle kunna få väldigt stora negativa konsekvenser, säger Fredrik Heintz.
Själv är han osäker på om vi alls kommer att uppnå den typ av superintelligens som vissa forskare nu varnar för, och ifrågasätter samtidigt bilden av att det skulle betyda en existentiell risk för mänskligheten.
– Man verkar hela tiden förvänta sig att en superintelligent AI skulle bli ondskefull, men för mig är det inte uppenbart att även om vi får en superintelligens så skulle det innebära att den medvetet skulle försöka skada oss, säger Fredrik Heintz.
Läs mer:
Har Open AI skapat en artificiell intelligens på mänsklig nivå?
AI kan ha löst ett av matematikens största problem – på 88 timmar
Över 1 000 AI-agenter bröt sig ut – dataintrång planerades i smyg