Detta är en text publicerad på Dagens Nyheters ledarsidor. Ledarredaktionens politiska hållning är oberoende liberal.
På två år har antalet påhittade referenser i biomedicinska vetenskapliga texter ökat med 1 100 procent. Det visar en ny studie som nämns i den medicinska tidskriften The Lancet. Vad det handlar om är att forskare använt AI-hjälpmedel som Chat GPT för att skriva artiklarna eller göra referenslistor.
De här AI-tjänsterna är byggda för att alltid ha ett svar. Hellre än att säga att de inte hittar någon studie om sambandet mellan säg kolesterolnivåer och plötslig spädbarnsdöd diktar verktygen helt sonika ihop en. Komplett med författare, årtal och var den publicerats. Alltihop taget ur luften.
Trots att den risken är välkänd tycker uppenbarligen allt fler forskare att det är värt att chansa. Enligt en studie från Nature publicerades under 2025 tiotusentals vetenskapliga artiklar med fejkade referenser, vad vi skulle kunna kalla Frankencitat. Precis som Mary Shelleys vetenskapsman tråcklar de stora språkmodellerna ihop data till något som ser ut som verkliga referenser och när någon sedan använder dem får de liv.
Utan trovärdighet faller vetenskapens värde, och vem kan lita på forskare som inte ens kollar upp sina egna källor?
För de fejkade referenserna sprids vidare. När en brittisk medie- och teknikforskare upptäckte en referens till en påhittad artikel som han själv påstods ha skrivit och kollade vidare insåg han dystert att fejkartikeln i sin tur citerats nästan 140 gånger. ”Jag har fått mer uppmärksamhet för något jag inte skrivit än för det arbete jag faktiskt har gjort”.
Systemet med vetenskapliga publikationer är flera hundra år gammalt. Utöver att vara ett akademiskt ekosystem kan man också se det som en illustration av hur kollektiv kunskap fungerar. Varje enskild forskare bygger vidare på tidigare arbete, man hänvisar till andra och redovisar öppet sitt eget tillvägagångssätt. Så byggs mängden vetande hela tiden på, fel kan korrigeras, områden kan utvidgas eller försvinna.
Självklart fanns dålig forskning och tveksamma metoder även förut. Men mängden AI-fejkat material är som ett gift som släppts ut i denna kunskapens flod och som riskerar att förstöra allting. Utan trovärdighet faller vetenskapens värde, och vem kan lita på forskare som inte ens kollar upp sina egna källor? Hur ska vi andra kunna veta vilka forskare som ändå gör det och vilka som förlitar sig på Chat GPT?
Det är dock inte bara i forskarvärlden som AI:s lockelse bryter ner folks förstånd. I förra veckan presenterade Sydafrika sin nya nationella AI-policy. Den visade sig dock inte bara handla om AI utan också vara framtagen med AI, med referenser till studier som inte finns. Frankensteins AI-policy. Det är ändå passande.
Läs mer:
Isobel Hadley-Kamptz: Blott Sverige svenska konservativa har – vevar om kanon medan kulturarvet rasar
DN:s ledarredaktion: SD:s röstkupp är inget oskyldigt bus – det här är vad som står på spel
