Propaganda från det ryska desinformationsnätverket Pravda används som trovärdig källa av hundratals engelskspråkiga hemsidor. Det rapporterar The Guardian med hänvisning till en studie från den Londonbaserade tankesmedjan Institute for Strategic Dialog (ISD).
Pravda är en tjänst som återpublicerar material från ryska primärkällor – bland annat ryska nyhetssajter, Telegram och den statliga nyhetsbyrån Tass. Texterna översätts till olika språk genom AI. Nätverket har ungefär 90 sidor på olika språk, med fler än sex miljoner artiklar.
Enligt Carl Heath, senior forskare på forskningsinstitutet RISE, kan man genom grundläggande källkritiskt tänkande notera att information på exempelvis pravda.se kommer från Ryssland. Bland annat är den AI-genererade texten ofta skriven på bristfällig svenska.
– Det kan däremot vara svårare om man tar del av samma information, men inbäddat i en nyhetssammanfattning som är genererad av en AI-tjänst, säger han.
Desinformation är överlag ”klurigare” att identifiera när den hamnar i andra miljöer än ursprungskällan, berättar Carl Heath.
AI-tjänster tränas på enorma mängder textdata för att lära sig språkets struktur, fakta och olika sätt att uttrycka sig på. Tillvägagångssättet skiljer sig dock från tjänst till tjänst. AI-tjänster har även förmåga att själva söka information genom olika sökmotorer. Att proryska budskap och desinformation presenteras som fakta på olika hemsidor kan i förlängningen påverka AI-tjänsters svar.
Det är dock inte ett klart samband.
Bland annat konstaterar forskare på Harvarduniversitetet i den vetenskapliga artikeln ”LLMs grooming or data voids?” att anledningen till att de flesta AI-tjänsterna hänvisade till desinformation var informationsluckor. Alltså berodde det främst på brist på trovärdig information inom ämnet på andra hemsidor – än att tjänsterna medvetet matats in materialet.
AI-tjänsterna i undersökningen refererade enbart till Kremlknutna källor, som Pravda-nätverket, i 8 procent av fallen. Och flera av chattbotarna markerade att dessa källor var osäkra eller omstridda.
Den stora boven är AI-genererad information som inte har någon tydlig källangivelse, menar Heath. Informationen som chattboten refererar till kan vara ett hopplock från alla möjliga hemsidor – och i värsta fall vara kopplad till utländsk informationspåverkan.
– Det blir en katt och råtta-lek i vår informationsmiljö. En helt automatiserad AI-sammanfattning, som inte refererar till källor, är problematisk att använda som källa i sig själv. För man kan aldrig veta var den informationen kommer från, säger Carl Heath.
Läs mer:
Fullt av fel när AI-tjänster refererar nyheter
Expert: Trump gör rysk propaganda till sin utrikespolitik
