Den 14 augusti släppte Tiktok sin plan för att stoppa desinformation inför det svenska valet. Företaget lovade att stänga av ”konton som försöker vilseleda användare genom att utge sig för att vara en politiker eller en nyhetsredaktion.”
Planen har ett särskilt fokus på AI-manipulerade filmer: ”Allt realistiskt AI-genererat innehåll på TikTok måste märkas”, skriver Tiktok.
Men DN kan nu avslöja att konton som sprider falska AI-filmer, som bland annat propagerar för högerextrema Alternativ för Sverige, gång på gång har fått grönt ljus av Tiktoks innehållsgranskare. Det handlar om fejkade nyhetsinslag och klipp där en rad kända svenskar ser ut att vara klädda i en tröja med partiets logotyp och gör ett handtecken som kopplas till vit makt-ideologi.
Alternativ för Sveriges partiledare Gustav Kasselstrand skriver i ett mejl till DN att partiet inte har något samröre med de anonyma kontona.
DN har tillsammans med it-säkerhetsexperten Karl Emil Nikka identifierat och anmält åtta av videorna via Tiktoks eget modereringssystem. Samtliga klipp bryter tydligt mot Tiktoks policy. De både saknar AI-märkning och innehåller den typ av material som Tiktok har förbjudit. Trots detta valde plattformen att ge dem godkänt.
Reaktionerna i kommentarsfälten är blandade. Många tycks förstå att kändisfilmerna inte är äkta. Däremot reagerar många på nyhetsinslagen som att de beskriver verkliga händelser. Oavsett detta är Tiktoks regler inför valet glasklara: Klipp som dessa ska vara AI-märkta, och i många fall tas bort helt.
– Det är ett tragiskt bevis för att Tiktok inte tar användaranmälningarna på allvar, säger Karl Emil Nikka.
Bland kändisarna som används i propagandafilmerna finns åtminstone ett 70-tal artister, idrottsmän, politiker, journalister, influerare och medlemmar av kungahuset.
Det mest populära kändisklippet har visats över 80 000 gånger, sammanlagt har klippen fått hundratusentals visningar. Flera av dem har tiotusentals gilla-markeringar och hundratals kommentarer.
Artisten Marko Lehtosalo, mer känd som Markoolio, är en av personerna som utnyttjas i filmerna. Han reagerar starkt när han får se det AI-genererade klippet där han ser ut att posera i en tröja med Alternativ för Sveriges partisymbol.
– Oavsett vilket politiskt parti det är så är det förjävligt. Tiktok måste ta större ansvar. De måste agera, säger han.
Han ser särskilt allvarligt på att Tiktok låtit klippen ligga kvar trots att de har rapporterats för granskning. Om de inte bättrar sig vill han se åtgärder mot Tiktok.
– De kan få några chanser, sedan får svenska regeringen ta bort de här plattformarna. Så pass illa är det. Om de inte fogar sig efter Sveriges lagar och regler så får man stänga av det.
Även kung Carl XVI Gustaf förekommer poserandes i en Alternativ för Sverige-tröja.
– Tyvärr förekommer det då och då att personer i kungafamiljen används i reklam- eller propagandasyfte. Så fort vi får reda på det vidtar vi åtgärder, som att kontakta plattformarna eller koppla in våra juridiska rådgivare, säger Margareta Thorgren som är Kungahusets informationschef.
Vad tänker du om att Tiktok inte tagit ner klippen trots att de anmälts?
– Det är självklart inte alls bra och påverkar alla som drabbas av det. Det är felaktigheter och det är oerhört viktigt att vara aktiv i de här frågorna. Kungens roll är opolitisk.
Sångerskan Sanna Nielsen, som förekommer i en av videorna, beskriver i ett mejl till DN filmerna som ”obehagliga”.
”Jag hoppas att de som blir exponerade för liknande fejkklipp förstår att de vare sig har med mig eller de andra personerna i filmen att göra. Jag hoppas också att plattformarna tar sitt ansvar och tar bort materialet,” skriver hon.
Andra som syns i klippen är Bianca Ingrosso, Pernilla Wahlgren, Mia Skäringer och programledaren Carina Berg. Den sistnämnda häpnar över att Tiktok låtit klippen ligga uppe, trots att de anmälts.
– Jag kan inte begripa att Tiktok inte vill plocka bort det här med vindens hastighet. Jag förstår inte varför de inte gör det, och skulle gärna vilja veta det, säger Carina Berg.
Utöver kändisvideorna har DN identifierat ett konto som sprider fejkade nyhetsinslag med högerpopulistiska budskap. De använder sig av AI-genererade nyhetsuppläsare och intervjupersoner, och saknar den AI-märkning som Tiktok kräver.
När DN kontaktar Tiktoks pressavdelning tar det bara några timmar innan kontona försvinner från plattformen. Däremot svarar ingen på frågor om kontona och hur de har hanterats, varken från Tiktoks svenska kontor eller företagets internationella presstjänst.
AI-regler på Tiktok
Den 14 augusti i år publicerade Tiktok en rad riktlinjer för hur plattformen ska motverka desinformation och ”vilseledande AI-genererat innehåll” inför det svenska valet. I appen finns numera bland annat information från Valmyndigheten och tips om hur användarna kan identifiera falska nyheter.
Tiktok uppger att alla verklighetstrogna AI-genererade videor ska märkes ut tydligt i appen, och att AI-genererat innehåll som är vilseledande eller sprider desinformation ska tas bort även om det är AI-märkt.
I riktlinjerna lyfts särskilt att konton som utger sig för att företräda politiker eller nyhetsredaktioner kommer att stängas av.
Tiktok har sedan tidigare förbjudit all form av betald politisk annonsering på plattformen.
Källa: Tiktok.
AI-video utvecklas snabbt
Tekniken för att skapa video med hjälp av artificiell intelligens har utvecklats mycket snabbt. För bara några år sedan var tekniken i sin linda, men dagens verktyg kan skapa filmer som är närmast fotorealistiska.
Klippen skapas genom att användaren skriver in en prompt, en beskrivning av vad filmen ska visa. AI-systemet kan också utgå från ett foto eller en film på en person. Mjukvaran skapar sedan en film där personen sätts i ett nytt sammanhang, får andra kläder och utför handlingar som beskrivs i prompten.
Läs mer:
Bedragare fejkar Downs syndrom – Tiktok ger grönt ljus
EU-regler ska avslöja AI-bluffar – men Tiktok kan slippa undan