Detta är en kommenterande text. Skribenten svarar för analys och ställningstaganden i texten.
Undergångsscenariorna har duggat tätt på sistone. Förrymda AI-agenter som på egen hand iscensätter omfattande hackerattacker. Skadlig kod som kan utgöra ett existentiellt hot mot hela mänskligheten. Och så bönerna från AI-ingenjörerna om att bromsa den snabba utvecklingen.
Den varning som nyligen orsakade flest rysningar kom från Jacob Coxon, en avhoppad forskare hos AI-jätten Anthropic.
”De som bygger AI tror på riktigt att tekniken kan döda oss alla före slutet av årtiondet”, skrev han på X.
I USA, där de flesta av tech-bolagen har sitt säte, har landets president avfärdat varningarna som nonsens.
”Det enda skydd man behöver mot AI är en stark och smart president med hög IQ”, deklarerade Donald Trump nyligen.
I Europa är tongångarna annorlunda. Här sjösattes redan för två år sedan världens första övergripande AI-lagstiftning, AI Act. Syftet med den omdiskuterade förordningen var att skydda européerna från AI:s avarter och se till att tjänsterna som tillhandahålls i unionen är säkra och etiska.
EU-kommissionens ordförande Ursula von der Leyen beskrev lagen som ”historisk” och slog fast att den tog ”europeiska värden till en ny era”.
Kritiken lät dock inte vänta på sig. Typiskt EU, klagade representanter från techjättarna, som menade att reglerna skulle kasta Europa tillbaka till den analoga tidsåldern.
Bilden av en plastflaska där korken sitter fast i en flärp fick symbolisera EU:s iver att reglera redan befintlig teknik i stället för att främja nya innovationer.
”Fortsätter Europa på nuvarande kurs missas en chans som bara kommer en gång per generation”, skrev den svenske Spotify-grundaren Daniel Ek i ett upprop, tillsammans med Facebooks Mark Zuckerberg, i tidningen The Economist för två år sedan.
Inte blev det bättre av att den tidigare ECB-chefen Mario Draghi samtidigt varnade för att Europa redan förlorat kapplöpningen om den nya tekniken och blivit omsprunget av Kina och USA.
EU svarade på kritiken som man gör så ofta numera: med så kallade omnibuspaket, vilket är EU-lingo för att minska regelbördan för företagen. Företagen får bland annat längre tid på sig att uppfylla vissa krav i lagstiftningen. Nya förenklingar vad gäller GDPR- och datahantering är på g.
Men efter de senaste veckornas larm inifrån tech-branschen har EU:s regler hamnat i ett helt nytt ljus. När de som bygger modellerna vädjar om reglering, framstår Bryssels byråkrati plötsligt som förutseende.
I sitt tal till unionen i förra veckan flaggade Ursula von der Leyen för att hon kommer att bjuda in representanter för de ledande AI-laboratorierna till en diskussion om att bromsa utvecklingen.
Det kanske inte blev exakt rätt med AI-lagen från början – det blir det sällan. Men medan USA förlitar sig på Donald Trumps IQ, har Europa i alla fall försökt tänka ett steg längre.
Läs mer: Karl Dalén: Därför vägrar Trump lyssna på varningarna om AI
Läs mer: Över 1 000 AI-agenter bröt sig ut – dataintrång planerades i smyg
FAKTA:EU:s AI-förordning
EU:s AI-förordning (AI Act) trädde i kraft för två år sedan och är ett slags system för bedömning av risk. Syftet var att skydda européernas grundläggande rättigheter och integritet. Lagen ska införas i flera steg, men efter hård kritik om regelkrångel har tidsfrister skjutits upp.
Lagen delar in AI i olika risknivåer baserat på hur stor skada tekniken anses kunna orsaka:
Oacceptabel risk: AI-system som anses utgöra ett direkt hot mot människors säkerhet, frihet och grundläggande värden. Det handlar exempelvis om social poängsättning och realtidsövervakning med ansiktsigenkänning på offentliga platser (vissa undantag görs vid brottsbekämpning).
Hög risk: System inom exempelvis rekrytering, hälso- och sjukvård eller kritiska infrastrukturer beläggs med stränga krav på transparens, datasäkerhet och mänsklig tillsyn.
Begränsad risk: AI-genererat innehåll ska märkas som sådant och det ska framgå om en användare chattar med en riktig människa eller en bot.