”De som bygger artificiell intelligens tror på allvar att det kan döda oss alla vid årtiondets slut.” Med de orden gav den tidigare Anthropic-anställde Jacob Coxon nytt bränsle till debatten om AI-säkerhet. Överdriven domedagsretorik, möjligen för att maskera AI-företagens problem, menade vissa.
Men oavsett det så ställde sig några av världens mäktigaste AI-chefer bakom tanken att utvecklingen måste bromsas. Det sätter också fingret på hur några få personer har makten över vilka AI-system som skapas och hur de används.
Sam Altman, vd Open AI
Om det finns ett startskott för de senaste årens AI-rusch så är det en tweet från Sam Altman, från hösten 2022. Där presenterade han Chat GPT för första gången och skrev: ”Testa att prata med den.”
Hans beslut att släppa chattroboten tycks ha drivits helt av viljan att komma först. Flera andra företag, inte minst Google, hade utvecklat språkmodeller internt men bedömt att de inte var mogna för allmänheten. Även Chat GPT:s bakomliggande teknik var omogen vid den här tiden, den hallucinerade och rörde ihop fakta så den var oanvändbar för allvarliga uppgifter.
Men den var först. Det cementerade Sam Altman till en av AI-boomens fixstjärnor och medförde att han, åtminstone för stunden, hade vunnit. Och om det är något som går igen i beskrivningar av Sam Altman så är det hans hunger efter makt och att vinna. Hans bror har beskrivit hur han redan som barn ville vinna och bestämma allt.
I en föga smickrande artikel i tidskriften New Yorker från i våras återkommer liknande beskrivningar, mestadels från anonyma källor: Han gör vad som helst för makt, han kan bedra folk utan att blinka. Vissa kallar honom sociopat som gör vad som helst för att få sin vilja igenom.
Hans bakgrund är på många sätt Silicon Valley-typisk: Han kommer från en välmående medelklass, han började intressera sig för datorer när han fick en Amiga som ung. Senare skulle han plugga datavetenskap på Stanforduniversitet, men hoppade av när karriärmöjligheter visade sig.
Däremot är han inte känd som något tekniskt snille. Hans talang verkar mer handla om att övertyga människor och navigera maktstrukturer. Han drog igång en i dag bortglömd startup, men det som gjorde honom till någon att räkna med var som chef för Ycombinator, en känd företagsinkubator som har fostrat bolag som Airbnb, Dropbox, Reddit och många fler. Det gav honom ett stort nätverk.
År 2015 är han med och grundar Open AI, tillsammans med bland andra Elon Musk. I korrespondens från den tiden ser man hur de två pratar om möjligheten att någon skapar artificiell superintelligens och vad det skulle kunna innebära för mänsklighetens framtid. Om någon gör det så vore det fint om det inte var Google, resonerade de och grundade Open AI som ett icke vinstdrivande AI-labb för mänsklighetens bästa.
Sedan dess har mycket vatten runnit genom AI-datacentrens kylningssystem. Elon Musk har hoppat av, Open AI blivit världskänt, tagit in miljarder från Microsoft och steg för steg omvandlats till mer av ett vinstdrivande företag med sikte på en gigantisk börsnotering.
När Jacob Coxon, AI-forskaren som hoppade av Anthropic och varnade för att AI-utvecklingen kan förgöra mänskligheten, pratade om sina tidigare arbetsplatser beskrev han Open AI som långt mer oansvarigt än andra. ”Det är som natt och dag i hur de tar situationen på allvar”, sa han till Wired.
Sam Altman var den som drev på förändringen från det ideella till kommersiella Open AI. För att ”vinna” får man anta.
Dario Amodei, vd Anthropic
Häromåret stod jag intill ett av Googles kontor i Sunnyvale, Silicon valley. När jag vände mig om hoppade jag till: Kinesiska tecken på skyltarna och ett bekant bolagsnamn: Baidu, den kinesiska sökmotorn med omfattande AI-utveckling hade förlagt sitt kontor så nära Googles att de i princip borde kunna spana in genom fönstren. Baidu är numera klassat som ett militärföretag av USA:s regering.
Här tog Dario Amodei sina första steg i AI-världen. I dag leder han ett av de främsta AI-bolagen. Han har sällat sig till de som förespråkar en broms i utvecklingen och gjort sig till Trumpadministrationens fiende för sin vägran att låta Pentagon använda hans AI-system i krig.
Hans karriär är som en illustration av de senaste årens AI-utveckling: Från Baidu till Google och dess avdelning för artificiellt tänkande, kallad kort och gott Google Brain. Sedan till Open AI där han fram till 2020 var forskningschef, innan han hoppade av och grundade Anthropic.
Redan på Open AI gjorde han sig känd för att varna för farliga AI-modeller. GPT-2, den då mest kraftfulla språkmodellen, var otroligt liten och primitiv jämfört med dagens. Ändå beslutade Dario Amodei och Open AI 2019 att inte släppa den offentligt. Ett program som kunde skapa trovärdigt, mänskligt språk var för förknippat med för stora risker, resonerade man.
I dag använder vissa det som argument för att Dario Amodei alltid har ropat varg om farlig AI. ”Jag drev med dem då. Alla ska driva med dem nu”, skrev Yann Lecun, AI-forskare med bakgrund på bland annat Meta. Samtidigt var det inte något domedagsscenario de varnade för, utan snarare att tekniken kunde användas för storskaliga bedrägerier och trakasserier.
Ett viktigt skäl till att Amodei lämnade Open AI var, enligt New Yorker-artikeln, att han började se Sam Altman som opålitlig och manipulativ.
Anthropic är mest känt för Claude, språkmodeller som kan användas via en chattrobot. En av modellernas styrkor är att skapa och analysera programkod. Många programmerare tar hjälp av den, men också de som letar säkerhetshål. I våras slog Dario Amodei på sin allra största trumma när Anthropic berättade om Mythos, en AI-modell som uppgavs vara så bra på att hitta säkerhetshål i mjukvara – att hacka dem, med andra ord – att den inte kunde släppas offentligt. I stället skulle utvalda företag få använda den för att hitta buggar i sina egna system innan bovarna kunde göra det.
Var det överdrifter alltihop? I dag ser resultatet delat ut. Vissa hittar massor med tidigare okända buggar, andra få. Ingen ser modellen som utomjordiskt revolutionerande, men väl som kompetent.
Samma vår hamnade Dario Amodei i luven på Pentagon, efter att ha vägrat ge den amerikanska militären fria händer att använda dess AI-teknik hur som helst i krigföring. Försvarsminister Pete Hegseth blev rasande och administrationen drev igenom en unik svartlistning av Anthropic som klassade företaget som en säkerhetsrisk för den amerikanska staten. Det är något som annars brukar drabba bolag som står fientliga stater nära. En domstol har senare ogiltigförklarat svartlistningen.
Om det finns en röd tråd i Dario Amodeis bana så är det varningarna och viljan att framstå som mer ansvarstagande än andra. Det finns två sätt att tolka det: Antingen som att han har knäckt koden för maximal uppmärksamhet för det han bygger – domedagsscenarion och science-fiction-doftande idéer om artificiell superintelligens ger lätt rubriker.
Eller så är han genuint oroad över vad tekniken kan leda till.
Möjligen är sanningen någonstans mitt emellan. Men en sak ska man inte glömma: Medan han pratar om bromsad teknikutveckling och bättre AI-säkerhet så planerar Anthropic en börsnotering som kan bli den största någonsin. De senaste buden är att bolaget skulle värderas till svindlande två tusen miljarder dollar. Som börsnoterat bolag skulle Anthropic behöva tänka på sina aktieägares intressen och ingenting annat.
Demis Hassabis, grundare Deepmind/Google
För ganska precis tio år sedan satt jag i en byggnad i centrala London. På en scen skissade Demis Hassabis upp sin vision i två punkter:
1. Lös frågan om intelligens.
2. Använd det för att lösa allt annat.
Året var 2016 och Googles då nytillträdde vd Sundar Pichai hade börjat prata om Google som ett bolag helt inriktat på AI. Demis Hassabis var en nyckelperson. Hans bakgrund luktar underbarn lång väg. Schackmästare vid 13 års ålder, framgångsrik datorspelsutvecklare. Sade nej till guldkantade jobb i spelbranschen, utbildade sig inom neurovetenskap och grundade AI-bolaget Deepmind vid en tid när artificiell intelligens var något de flesta associerade till biofilmer.
2014 hade Google köpt Deepmind, Londonbolaget som många viskade om som ett av de mest lovande AI-bolagen. Företaget radade upp framgångar, som när dess system Alphago slog en av världens toppspelare inom det uråldriga asiatiska brädspelet Go. Senare system klarade att lära sig själva att spela datorspel. Mycket av det Deepmind visade var tekniskt imponerande, men framstod också som uppvisningar mer än något användbart. En AI som spelar datorspel kommer inte att revolutionera världen.
Det var framför allt några år senare, när Deepmind gav sig på problemet med proteinveckning som det blev på allvar. Inom biologin är det en av de stora frågorna, och att kartlägga det har varit extremt tidkrävande. På kort tid kunde Deepmind kartlägga 200 miljoner proteinstrukturer, något som skulle ha tagit hundratals miljoner år av mänskligt arbete på vanlig väg.
Det var Alphafold som gav Demis Hassabis Nobelpriset i kemi 2024.
Under åren som föregick det agerade Google Deepmind som något av ett forskningslabb, snarare än ett vanligt företag. Många av dess landvinningar publicerades i vetenskapliga tidskrifter och blev därmed offentliga, medan konkurrenter såg sina som affärshemligheter. Demis Hassabis akademiska bakgrund kan ha bidragit till det.
Men så 2022, när Chat GPT fick internet att tappa hakan, uppstod närmast panik på Google. En liten uppstickare höll på att utklassa sökjätten, nu kunde man inte sitta och göra uppvisnings-AI och biologiska experiment för mänsklighetens bästa. Demis Hassabis och hans Deepmind fick sätta igång med att utveckla Gemini, Googles chattrobot och den direkta konkurrenten till Chat GPT och Claude.
Internt på Google såg vissa hur de kom på efterkälken. 2023 läckte ett dokument där en anställd – identitet okänd – beskrev hur Google hade tappat allt försprång. ”We have no moat” – vi har ingen unik fördel, blev det kända citatet.
Demis Hassabis tonade ner det efter bästa förmåga, men det råder ingen tvekan om att företaget är hårt pressat från många håll och absolut ingen självklar ledare i AI-racet.
I somras avgick Demis Hassabis som vd på Deepmind, men blir kvar som ordförande. Han fick samtidigt en ny roll som chefsforskare i Googles ägarbolag Alphabet. Där ska han fokusera på arbetet mot det som brukar kallas artificiell generell intelligens, AGI, ett svårdefinierat begrepp som brukar beskrivas som att AI blir jämbördig med, eller vida överskrider, den mänskliga hjärnans intelligens.
Andra aktörer
Deepseek: En handfull aktörer i framför allt USA har dominerat AI-utvecklingen i många år. Samtidigt är Kina inte på efterkälken. Det blev tydligt inte minst när Deepseek i fjol skakade Silicon valley och världens börser med sin AI-modell. Inte minst höjdes många ögonbryn eftersom den kunde tränas med betydligt mindre resurser än de gigantiska AI-modellerna från väst. Det öppnar för att de jättelika investeringarna i hårdvara och datacenter kanske är missriktade.
Mark Zuckerberg: Facebooks, Instagrams och Whatsapps ägarbolag Meta var länge fokuserat på att bygga vad de kallade metaverse, en vision om en virtuell värld där människor umgås och lever. AI-utveckling var länge lägre prioriterat, men de senaste åren har Meta storsatsat på både egna AI-modeller och stora datacenter för att få beräkningskraften som behövs.
Elon Musk: Tesla-vd:n hörde till de som lyfte undergångsscenarier kring AI för många år sedan, delvis inspirerad av den svenske filosofen Nick Bostrom. Som medgrundare av Open AI ställde han sig bakom idén med icke vinstdrivande artificiell intelligens för allas bästa. Men när Tesla genom självkörande bilar började med egen AI-utveckling steg han åt sidan, vilket följdes av att Sam Altman började stöpa om Open AI i mer kommersiell riktning. Musk stämde Open AI för detta men i somras avfärdade en domstol hans argument med att de hade kommit för sent.
Elon Musk har också startat XAI, mest känd för chattroboten Grok som har varit inblandad i en rad skandaler med avklädda bilder och högerextremism.