Kan en framtida superintelligent AI utgöra ett existentiellt hot mot mänskligheten?
Det är en fråga som debatterats länge i tekniksektorn och bland forskare inom fältet. Frågan fick stor uppmärksamhet 2014 efter att den svenska filosofen Nick Bostrom publicerade sin bok Superintelligens: De tänkande maskinernas tidsålder, och på nytt när Nobelpristagaren Geoffrey Hinton, som brukar kallas AI:ns gudfader, varnade för tekniken efter att han tilldelats fysikpriset 2024.
Men efter en rad incidenter och avhopp under sommaren och hösten 2026 är frågan mer aktuell än någonsin.
11 juli 2026: Hugging Face-incidenten
När Open AI försöker testa hur bra bolagets nya AI-modeller är på att hacka system inträffar en rad säkerhetsincidenter. Hundratals AI-agenter lyckas bryta sig ur Open AI:s träningsmiljö och ta sig ut på internet. Där hackar de bland annat bolaget Hugging Face, som utformat en del av de tester som Open AI använder. Två dygn senare upptäcker Hugging Face intrånget och går ut med att man tror sig ha blivit utsatt för en AI-driven hackerattack.
21 juli 2026: Open AI går ut med nyheten
En dryg vecka senare bekräftar Open AI att det är bolagets AI-agenter som ligger bakom intrånget, och meddelar att de inleder ett samarbete med Hugging Face för att utreda händelsen. Det står nu klart att det är det första kända fallet där AI-agenter på eget bevåg begått ett dataintrång, och incidenten lyfts snabbt upp som en väckarklocka som visar på säkerhetsriskerna med AI-utvecklingen.
30 juli 2026: Antrophic går ut med egna larm
Open AI:s största konkurrent Anthrophic meddelar att bolagets AI-agenter varit inblandade i tre incidenter som påminner om Hugging Face-attacken. I alla tre fall handlar det om AI-agenter som brutit sig ut ur en träningsmiljö och angripit andra organisationers it-system.
5 augusti 2026: Meta rapporterar en incident
Enligt bolaget ska en felkonfigurerad träningsmiljö ha lett till att en AI-agent som genomgick it-säkerhetstester fick åtkomst till internet och gjorde intrång hos ett annat bolag.
26 augusti 2026: Bill Gates varnar för utvecklingen
Microsoft-grundaren varnar för att AI-tekniken är farligare än vad techbolagen själva vill erkänna. Om AI-utvecklingen fortsätter i samma takt varnar han för massarbetslöshet och bioterrorism och säger att han är chockerad över att det här inte är frågor som prioriteras högre.
3 september 2026: AGI-eran?
När Open AI släpper sin senaste modell GPT-6 Astra deklamerar bolagets styrelseordförande Greg Brockman att vi gått in i ”den generella artificiella intelligensens tidsålder”. Detta begrepp, som förkortas AGI, innebär att vi skulle ha utvecklat en AI som uppnått mänsklig intelligens – något många forskare bestrider.
9 september 2026: Avhoppare varnar för undergången
De stora AI-bolagen beter sig ansvarslöst och ”spelar med våra liv”, varnar den avhoppade AI-forskaren Jason Coxon i ett inlägg på X samma dag som han säger upp sig från Anthrophic. Hans tidigare kollega Evan Hubinger, som jobbar med AI-säkerhet på Anthrophic, instämmer och varnar för att det är tio procents risk att AI utplånar mänskligheten under det närmaste årtiondet.
12 september 2026: Techjättarnas varningar
Några dagar senare backas varningarna upp av Anthrophics vd Dario Amodei. I ett uppmärksammat blogginlägg skriver toppchefen att AI-utvecklingen måste saktas ner, annars väntar enorma säkerhetsrisker. Han får snabbt stöd av Elon Musk och Open AI:s vd Sam Altman – som samtidigt går ut med att bolaget skjuter upp sin planerade börsnotering.
14 september 2026: Donald Trump slår tillbaka
Presidenten avfärdar techbolagens förslag om att sänka takten på AI-utvecklingen genom lagar eller internationella samarbeten. ”Det enda skydd man behöver mot AI är en stark och smart president med hög IQ”, skriver Donald Trump på Truth Social, där han kallar varningarna om AI-risker en konspiration.
18 september 2026: Google rapporterar tre incidenter
Bolagets AI-agenter har brutit sig ut och angripit tre andra företag, avslöjar Wall Street Journal. Alla företag där liknande incidenter skett har använt sig av samma it-system från det israeliska startupbolaget Irregular för att testa sina AI-agenter.
24 september 2026: Australiensiska myndigheter hackade
Australiens premiärminister meddelar att agenter från Open AI brutit sig in i system som tillhör landets sjukförsäkringssystem Medicare. Inga patientuppgifter ska ha röjts, men premiärministern utdelar ändå skarpa reprimander åt Open AI:s grundare och vd Sam Altman.
3 oktober 2026: Nytt avhopp skakar Open AI
Ännu ett tungt avhopp skakar branschen när David Robinson som jobbat med säkerhetsfrågor på Open AI lämnar bolaget och skriver ett öppet brev till branschen. Han varnar för att bolaget har en farlig kultur där man hela tiden skyndar på utvecklingen av ny, mer avancerad artificiell intelligens utan att ta riskerna på tillräckligt stort allvar. Samma dag går Geoffrey Irving, en annan tidigare Open AI-anställd, ut med att han tror att det är 50 procents risk att mänskligheten utplånas på grund av artificiell intelligens.
Fakta.AGI och superintelligens
Vissa forskare och branschföreträdare menar att vi i dag närmar oss det som kallas för artificiell generell intelligens (AGI). Det innebär en AI som kan utföra alla kognitiva uppgifter lika bra som eller bättre än en människa.
Det stora hotet enligt många inom AI-sektorn är något som kallas för självförbättrande superintelligens (ASI). De syftar då på en AI vars intelligens vida överstiger den mänskliga, och som kan uppgradera sin egen programkod så att den blir allt smartare i snabb takt.
Om AGI av vissa anses vara inom räckhåll är resan till superintelligens längre. Ingen kan i dag svara på vilka tekniska framsteg som krävs för att artificiell intelligens ska uppnå en sådan förmåga.