Kan du skilja på sanning och lögn?
De släta, färgmättade bilder som kännetecknar AI-generering har nog de flesta sett i sina flöden. Men hela tiden förskjuts gränsen för hur verklighetstrogna de fejkade bilderna kan bli.
– AI är inte längre sex fingrar på en hand, säger Moa Eriksson Krutrök, docent i sociologi vid Umeå universitet, och fortsätter:
– Vår förståelse av vad som är sant och inte suddas ut väldigt mycket nu, i och med att AI har blivit så pass utvecklat.
Den som vill forma vår syn på världen har i dag helt nya möjligheter. Och det behöver heller inte se verkligt ut för att ha önskad effekt.
AI-slop, ungefär AI-skräp på svenska, kallas en algoritmdriven variant av skräpmejl. Lågkvalitativt AI-material pumpas ut i sociala medier och kan nå en miljonpublik.
– Det saknas en koppling mellan vad vi tror är verkligt och vad vi sprider vidare. Även om man uppfattar material som icke-autentiskt eller desinformativt så väljer man ändå att dela det, säger Moa Eriksson Krutrök.
– Det kan handla om att vi vill förstärka ett budskap eller är intresserade av själva sakfrågan, och då spelar det ingen roll om det är sant eller inte.
Desinformativt politiskt innehåll genererat med AI, så kallad slopaganda, användes av Ryssland under valrörelsen i Moldavien i september, enligt EU:s valobservatörer, och spreds även under det senaste borgmästarvalet i New York.
Videon är 9 sek lång.
SVT:s Agenda publicerade ett klipp som såg ut att visa en lokalpolis som skäller ut en ICE-agent, men videon är AI-genererad.
Hur vet vi vem avsändaren är?
Med Tiktok, reels och så kallade utforskaflöden ser vi betydligt mer innehåll än det våra vänner publicerar. Materialet når oss från hela världen, styrt av algoritmer vi inte kan tolka. I takt med att vanligt folk blir allt mer passiva på sociala medier produceras en växande del av inläggen på ett mer professionellt sätt.
Utöver influerare, skämtkonton och kändisar finns en uppsjö av aktörer med politiska motiv.
– Det kan vara statligt, organisationer, politiska partier i olika länder, intressegrupper, think tanks, trollfabriker. Det skapar en ännu större otydlighet kring vilka avsändarna egentligen är och hur man ska tolka budskapet, säger Moa Eriksson Krutrök.
Efter Facebook, där profilbild kan kombineras med hemort, ålder, utbildning och relationsstatus, har sociala medier-konton blivit allt mindre personbundna.
– Att vara källkritisk i dag är svårt eftersom källan är så svår att specificera, säger Moa Eriksson Krutrök.
Yngre generationer använder i större utsträckning sociala medier som sin huvudsakliga informationskälla. Till skillnad från äldre har de också svårare att förstå skillnaden mellan journalistik och inlägg på sociala medier. Det visar en nordisk undersökning som nu görs av bland annat Mediemyndigheten, som på uppdrag av regeringen arbetar för att stärka befolkningens källkritiska tänkande.
Äldre är däremot mindre benägna att kolla upp sådant som de misstänker är fel på sociala medier, jämfört med unga, enligt undersökningen som publiceras i januari.
Videon är 9 sek lång.
Ett anonymt konto på Tiktok delar mängder av snarlika AI-genererade videor som ska föreställa Palestinademonstranter.
Blir du mindre källkritisk i kris och krig?
Förtvivlade AI-barn fastklämda under rasmassor, instängda i byggnader eller gråtande med döende syskon i famnen. Utmärglade och hålögda AI-offer bland brända ruiner. Sedan AI introducerades har det varit med och format vår uppfattning om krigets fasor på platser som Gaza och Sudan.
– Väldigt ofta maximeras den känslomässiga effekten för att skapa mer dramatiska versioner av mänskligt lidande. Det blir ett slags emotionell överdrift, säger Moa Eriksson Krutrök.
Innehåll som triggar starka känslor får oss effektivt att glömma källkritiskt tänkande. Och för den som känner starkt för budskapet i en video kan ett ifrågasättande av själva bilderna uppfattas som kritik mot budskapet.
Det kan utnyttjas av aktörer som snarare vill slå split eller sprida misstro.
– Det är en varningsklocka om bilderna är väldigt känslostarka, säger Moa Eriksson Krutrök.
Men även när AI-material har ärliga avsikter kan det påverka vår uppfattning om omvärlden och göra oss mindre mottagliga för information.
– Det kan påverka vår bild av verkliga konflikter. När vi vet att AI används kan vi bli mer distanserade och utgå ifrån att det vi ser inte är verkligt.
Videon är 11 sek lång.
En av riskerna med AI-genererade videos från krig och konflikter är att vi även börjar ifrågasätta verkliga klipp.
När inget annat fungerar: Så är du källkritisk
Ett så kallat omvänt bildsök är inte lika hjälpsamt längre. Att inte få några sökträffar indikerar att bilden är ny och var tidigare ett tecken på att den föreställde den nyhet som avsändaren påstod. Men även nya bilder kan vara genererade av AI.
Det finns också verktyg för att upptäcka AI. Dels AI-företagens egna, som generellt är mindre tillgängliga än tjänsten som framställer bilderna och som främst kan upptäcka det egna verktygets bilder. Det finns även några oberoende tjänster, men även de är trubbiga.
När tekniska metoder varken kan verifiera bilden eller hitta källan måste vi i stället tänka över vilket motiv som skulle kunna finnas.
– Vi måste utveckla ett kritiskt tänkande om idén bakom bilderna, snarare än om bilden i sig, säger Moa Eriksson Krutrök och fortsätter:
– Ett tecken på professionalisering är när näst intill samma klipp sprids väldigt många gånger. Då bör det ringa varningsklockor att något kan vara i görningen.
Några frågor man bör ställa sig är:
– Är det rimligt att det här skett? Att det ser ut så här på platsen? Och om inte – är det någon som vill förmedla en specifik bild till oss, och vad kan den i så fall vara?
