De senaste åren har präglats av en otyglad kapplöpning om att utveckla allt mer kraftfull artificiell intelligens. Bolag som Open AI, Anthrophic och Elon Musks Xai har investerat enorma belopp i sin strävan att uppfinna maskiner som kan överträffa mänsklig intelligens.
Men plötsligt vill stora delar av den amerikanska AI-sektorn dra i nödbromsen.
”Vi måste sänka takten med vilken vi förbättrar AI-modellernas kapacitet”, skrev Anthrophics grundare Dario Amodei i ett uppmärksammat blogginlägg den 12 september, och fick snabbt medhåll av både Open AI:s Sam Altman och nämnda Elon Musk.
Själv hävdar Amodei att två händelser ligger bakom kursändringen. Den ena är sommarens uppmärksammade cyberattack mot AI-bolaget Hugging Face, som utfördes av förrymda AI-agenter. Om ingen agerar riskerar AI-botar att ”ta kontroll över hela internet”, skriver Amodei.
Det andra är ett potentiellt generationsskifte inom artificiell intelligens. Flera branschföreträdare har varnat för – eller skrutit om – att vi närmar oss den punkt som kallas för artificiell generell intelligens, AGI. Det vill säga en AI som tangerar mänsklig intelligens.
– När vi tittar bakåt tror jag faktiskt att vi kommer att säga att någonstans runt 2026 eller 2027 träder vi in i AGI-eran, säger psykologiprofessor Robert Johansson vid Stockholms universitet som forskar om AGI.
Han pekar på att Open AI:s senaste AI-modell GPT-6 Astra, som många beskrivit som ett stort tekniskt kliv, börjar närma sig den mångsidighet vi människor besitter. Modellen har även fått nästintill perfekt poäng på testet ARC-AGI, som används som ett slags måttstock för hur nära artificiell generell intelligens vi är.
Dagens AI-modeller kan redan slå människor på många fronter. Inte minst inom vissa tekniska och naturvetenskapliga fält som programmering och matematik, där modellernas kapacitet utvecklas otroligt snabbt.
– Jag tror att vi kommer att se liknande framsteg inom exempelvis kemi och fysik. Det är områden där det är förhållandevis lätt att reda ut om du har rätt eller fel. Det går att föreslå hypoteser och utvärdera dem, och därigenom snabbt förbättra modellen, säger Fredrik Heintz som är professor i datavetenskap vid Linköpings universitet och forskar om artificiell intelligens.
Han anser inte att vi nått en punkt där det går att säga att AI-modellerna klarar allt som människor gör, men han tror att vi så småningom kommer att knäcka koden för hur man skapar en AGI – vad det nu innebär i praktiken.
– Jag tror faktiskt att vi kommer att uppnå AGI innan vi har kommit överens om vad AGI egentligen är, säger Fredrik Heintz.
Vad som faktiskt krävs för att med gott samvete kunna säga att en AI nått en människas intelligens är en omdebatterad fråga. Det finns flera konkurrerande definitioner, men de flesta forskare är eniga om en sak: modellerna måste kunna lära sig på ett sätt som påminner om människans.
– Dagens AI-modeller utvecklas inte över tid, det krävs att man tränar en ny version först. Man forskar just nu väldigt mycket på AI med kontinuerlig inlärning, men det är ett problem man inte har löst, säger Fredrik Heintz.
Robert Johansson på Stockholms universitet hämtar en liknelse från biologin för att förklara skillnaden mellan hur en AI och en människa tillskansar sig kunskap: Både människor och träd är genetiskt förprogrammerade att kunna vissa saker, men där en bebis slår upp ögonen och börjar utvecklas, står trädet still och förlitar sig på sin förprogrammerade genetik. På samma sätt förlitar sig en AI-modell på den data som använts för att träna modellen.
– Ett träd kan inte uppdatera sin kunskapsmassa, det gör vad det är ”fött” till, medan mänskliga barn uppdaterar sin kunskapsmassa enormt mycket hela tiden. En språkmodell i sin renaste form är mer som ett träd, säger Robert Johansson.
Det vill säga, ingen har knäckt koden för hur man ska utveckla en språkmodell som kan ”uppdatera sig” lika snabbt och enkelt som en människa.
Men det som verkligen skrämmer delar av techeliten är något ännu mer avancerat. Det Sam Altman, Dario Amodei och Elon Musk räds är en självförbättrande superintelligens – en AI som är långt intelligentare än en AGI och dessutom kan programmera om sig själv så att den blir smartare och smartare i skenande takt.
Denna oro hördes inte minst från den avhoppade AI-forskaren Jacob Coxon, som i början på september varnade för jättar som Open AI och Anthrophic.
”Inget av företagen agerar ansvarsfullt. De kör i full fart mot självförbättrande superintelligens och de spelar med våra liv”, skrev Coxon i ett inlägg på X som fick enorm spridning i både sociala och traditionella medier.
Självförbättrande är ett nyckelord här. Många teorier kring hur en superintelligent AI kan uppstå och skapa problem bygger på tanken att den blir smart nog att i rask takt förbättra sig själv och på kort tid bli oerhört kraftfull.
Men de svenska professorerna är skeptiska.
– Jag ser ingen anledning till att vi inte kan uppnå AGI, men steget till superintelligens är jag inte lika övertygad om, säger Fredrik Heintz.
– För mig är det inte heller uppenbart att en sådan superintelligens skulle skada oss människor. Om den inte kan förstå konsekvenserna av sina handlingar och göra vad den kan för att undvika negativa konsekvenser skulle jag inte kalla den ”superintelligent”.
Robert Johansson menar att det är svårt att ens sätta ord på vad som skulle krävas för att lyckas uppnå superintelligens. Han pekar på hur språket är vad som gett människan ett sådant ohyggligt försprång framför resten av djurriket, och att en superintelligens skulle behöva ett lika stort utvecklingskliv för att bli överlägsen mänskligheten.
– En superintelligens skulle behöva göra ett likadant hopp som vi gjorde med språket, men vad innebär det? Det kan vi inte ens föreställa oss. Jag säger inte att det är omöjligt, bara att vi inte alls vet vad det skulle vara för ett framsteg, säger Robert Johansson.
Överlag tycker han att techbolagen fokuserar för mycket på att måla upp faror med framtida, kraftfullare AI-modeller. För honom handlar det inte lika mycket om vad modellerna är kapabla till, som vad de får tillgång till.
– Det som jag tycker är en stor fara är när systemen får tillgång till verkligheten i någon form, när man släpper ut dem på internet eller i sina interna system, eller om de får tillgång till vapen. Det har egentligen inte så mycket med AGI eller superintelligens att göra, det är ett lika stort problem för de AI-modeller vi har i dag, säger Robert Johansson.
Läs mer:
AI-jättarna varnar själva för domedagen – bara Trump tycks obekymrad
Linus Larsson: AI-jättarna älskar att prata om faror medan de trycker gasen i botten
Avhoppande AI-forskarens varning: Den kan utplåna mänskligheten
