Detta är en opinionstext i Dagens Nyheter. Skribenten svarar för åsikter i artikeln.
Ulf Danielsson har på många punkter rätt i sina två texter om AI i DN (21/9) och SvD (21/9). Men han överdriver motsättningen mellan domedagsvisioner och verkliga risker och drar fel slutsatser om forskningspolitiken.
Gynnas vinstdrivna AI-bolag, perverst nog, av undergångsberättelser? Förespråkar de självövervakning för att slippa central reglering? Ser många i Silicon Valley verkligheten som ett bestånd i väntan på digitalisering?
Ja, det är också mitt intryck.
Men det Danielsson missar är att systemen varken behöver bli medvetna eller ha onda avsikter för att orsaka förödelse. Faran är inte att maskinen vill utplåna oss, utan att den kan bli mycket skicklig på att nå mål utan att dela våra erfarenheter, värderingar eller intressen. AI-historien har i hög grad handlat om att abstrahera bort kroppar, medvetande och avsikter. Just detta är så främmande: kompetens utan erfarenhet. Talet om katastrofer kan därför vara en retorisk rökridå och peka mot verkliga risker – på samma gång.
Enligt Danielsson förstör AI kreativitet och forskning och kan på sikt skapa fördumning, livsleda och meningslöshet. Men kan fuskande maskiner med mediokra resultat verkligen hota skapandekraft och kunskap? Ja, men inte för att AI är dålig, utan för att den är tillräckligt bra. Vi kan finna systemens metoder oaptitliga ur estetiska, miljömässiga och sociala perspektiv, men klarade systemen inte uppgifterna skulle vi inte ha den här diskussionen. Att de gör det beror mindre på tekniska framsteg än på att vi byggt strukturer som är perfekt avpassade för att maskiner ska utföra vårt arbete.
Kan vi inte bara låta maskinerna sköta det tråkiga, medan vi beställer fram resultaten? Så enkelt är det tyvärr inte. Danielssons beskrivning av granskningen av forskningsansökningar är paradexemplet på en dynamik jag har forskat om: maskiner som talar med maskiner. Det tar helt enkelt emot att läsa maskingenererade ansökningar. Hans lösning är betecknande: ta in maskiner som stöd. Men om maskiner både skriver och läser ansökningarna, vilken funktion fyller de då som urvalsmekanism? Vi tröstar oss gärna med att omdömet och avgörandet är våra. Fast hur många ansökningsomgångar tar det innan ingen längre orkar läsa en ansökan? Vad betyder det då att ta ansvar som granskare?
Här kommer utbildningsfrågan in, och jag håller med om att det saknas svar. Utmaningen består i att övertyga studenter om att skaffa förmågor de allt mer sällan behöver i studier och arbetsliv. Hur gör man det? Antingen vädjar man till kunskapens stärkande kraft och individens vilja att kunna, eller så ser man färdigheter som en samhällsresurs som ökar vår kollektiva anpassningsförmåga.
Vi måste bygga ett samhälle där det anses attraktivt och värdefullt att göra och veta sådant som skulle kunna överlåtas åt maskiner
I praktiken behövs båda vägarna. Nöjer vi oss med den första skapar vi ett klassamhälle vars omfattning vi knappt kan föreställa oss. En liten grupp har råd att bli intellektuellt självständig, medan resten hänvisas till att förvalta maskinernas resultat utan att kunna verifiera dem. Den emancipatoriska potentialen i den första vägen måste förankras i den andra vägens idé om resiliens.
Risken att lidelselösa AI-agenter tar över hänger på så sätt ihop med vår iver att automatisera bort kognitivt arbete. Ska fler än en liten elit kunna ta ansvar för det AI-system genererar måste vi ändra betydligt mer än regelverket för Vetenskapsrådets beredningsgrupper. Oron för att studenter låter maskiner skriva uppsatser och forskare ansökningar bör därför förstås ur ett samhälleligt riskperspektiv, inte bara ett utbildnings- och forskningspolitiskt.
Vi måste bygga ett samhälle där det anses attraktivt och värdefullt att göra och veta sådant som skulle kunna överlåtas åt maskiner. Inte för att människan alltid presterar bättre – där befinner vi oss inte längre – utan för att kunna bedöma vad som är ”tillräckligt bra” och ta ansvar för utfallet. Inte för att värna ett gammalt bildningsideal utan för att långsiktigt rusta befolkningen. En sådan kunskapspolitik är, beroende på vem man frågar, antingen ett gigantiskt slöseri eller en smart investering.
Läs mer: Ulf Danielsson: AI-bolagens domedagsprofetior är en rökridå