Detta är en recension. Skribenten svarar för åsikter i texten.
Sakprosa
Jill Lepore
”The rise and fall of the artificial state”
Allen Lane, 286s
Efter de senaste veckornas våg av varningar om AI-utvecklingen som kommit inifrån den egna branschen, snarare än från den vanliga gruppen av filosofer, påvar och publicister, har Döden gjort entré i techindustrins diskussionsfora. Tidningen MIT Technology Review, som knappast kan beskrivas som AI-kritisk till vardags, anordnade i förra veckan en rundabordsdebatt för sina prenumeranter med rubriken ”Could AI really kill us all?”
Efteråt sammanfattades debatten med en sammanfattning av frågorna och svaren. På frågan ”Kommer jag att dö?” svarade forskaren och AI-skribenten Grace Huckins: ”Ja, så småningom. Det kan också bli som en direkt följd av AI. Drönare som drivs av AI har redan dödat många i Ukraina och AI-drivna cyberattacker mot sjukhus kommer med all sannolikhet att kräva dödsoffer, förr eller senare.”
Bara så att man har perspektiven klart för sig.
Att AI skulle leda till utplåning av hela mänskligheten är kanske inte särskilt mycket mer sannolikt nu än före sommarens händelser. Om man ska vara orolig på riktigt är det snarare andra profetior man ska rikta in sig på, som till exempel den som fanns i Anthropic-vd:n Dario Amodeis artikel ”We must pace the frontier”. Där beskrev han ett scenario där ett botnätverk, orsakat av en okontrollerad svärm agenter – enligt samma mönster som ledde till Open AI:s hackande av företaget Hugging Face i somras – inom sex till tolv månader skulle vara kapabelt att ta över hela internet. Inte lika förödande som mänsklighetens undergång, men det faktum att Amodei pratar om det som en konkret oro i närtid, borde få fler än välrustade preppare att se över sina krisplaner.
Open AI-medgrundaren Ilya Sutskever talade om nödvändigheten att bygga en säkerhetsbunker, om utvecklingen av artificiell generell intelligens skulle slå fel
Att prata i undergångstermer har AI-chefer dessutom gjort förr. I Karen Haos bok ”Empires of AI” – fortfarande den bästa inifrånskildringen av branschen – återgavs samtal där Open AI-medgrundaren Ilya Sutskever talade om nödvändigheten att bygga en säkerhetsbunker, om utvecklingen av artificiell generell intelligens skulle slå fel. Utplåningsteorin har alltså funnits där ett tag, inte bara hos AI-doomers.
Men tajmingen av den senaste tidens diskussioner väcker ändå många frågor. Som Ulf Danielsson, professor i teoretisk fysik, skrev i DN Kultur häromdagen skorrar teknikbolagens plötsliga omsorg om världen ganska falskt – och kan ses i ljuset av andra tydliga behov från deras sida. Den sammanfaller med åtminstone tre saker: kommande börsnoteringar, hot om reglering och en kapprustning med Kina som de är väldigt oroliga för att förlora.
Det hade varit lättare att ta varningarna på allvar om de åtgärder som bolagen föreslår hade varit mer långtgående. Men om man skärskådar det som Dario Amodei föreslår – och som inte ens alla bolag verkar beredda att ställa sig bakom – är de tunna som mikrochips. Han vill släppa in ”oberoende” observatörer, men utan att de skulle få något verkligt mandat. Han vill också att branschen ska formulera ”säkerhetsstandarder”, utan att precisera det mer – och slutligen vill han att USA och andra ”demokratiska regeringar” ska förmå auktoritära regimer (läs: Kina) att också vidta försiktighetsåtgärder. Vilket kan bli knepigt när USA:s nuvarande regim inte ens vill erkänna att det existerar några risker i AI-utvecklingen.
Som sagt: The lady doth protest too much, methinks.
Vill man förstå AI-kapprustningens drivkrafter, utöver de biljontals dollar som står på spel för företagen, kan det i stället vara klokare att vända sig till filosoferna och historikerna. Till exempel till den amerikanska historieprofessorn Jill Lepore, kvinnan bakom moderna klassiker som ”These truths” (2018) och ”We the people” (2025) och som i ”If then” (2020) beskrev uppkomsten av den moderna datavetenskapen.
I sin nya bok, ”The rise and fall of the artificial state” – där ”state” ska tolkas både som tillstånd och styre – tar hon avstamp hos Hannah Arendt och visar hur drömmen om automatiserat beslutsfattande har djupa rötter. Det är som en karta över en väg som åtminstone sedan 1950-talet gått i en tydlig riktning mot maskinernas övertag över humanismen och den mänskliga viljan, parat med en stundtals komisk fascination för science fiction. Men det är också en kampbok, i nära släktskap med Shoshana Zuboffs ”Övervakningskapitalismen”, som landar i förhoppningen om en kraftig backlash mot AI-företagen.
’AI-Gudfadern’ Geoffrey Hinton har förklarat för den amerikanska senaten att de har ’max ett år’ på sig att agera och reglera
I veckan följde Lepore upp boken med en artikel i The New Yorker med rubriken ”Is AI above the law?” Där konstaterar hon att endast hård reglering har möjlighet att bromsa riskutvecklingen. Den som klandrar AI-bolagen skäller under fel träd, de borde rikta kritiken mot lagstiftarna. Samma linje är Nobelpristagaren och ”AI-Gudfadern” Geoffrey Hinton inne på: han har förklarat för den amerikanska senaten att de har ”max ett år” på sig att agera och reglera.
Har AI-cheferna något bra svar? Open AI:s Sam Altman valde i förra veckan att säga att han, minsann, tillhör ”Team Humanity”. Jamen dåså.
Läs också:
AI-forskare: Vi på insidan är nog mer oroade än folk utanför
Simon Campanello: Det här är tekniken som skrämmer AI-cheferna
Lyssna på Spotlight: Nya larmen: Kommer AI utplåna mänskligheten?