Det ser ut som trailrar för animerade barnfilmer. Karaktärerna, berättarrösterna och typsnitten går i Pixars stil och i flera videor står Disneys och Pixars logotyper över titeln till den påhittade filmen.
Historierna är däremot långt ifrån de verkliga filmernas barnvänliga innehåll.
”Skolskjutning” står det med stora bulliga bokstäver tillsammans med texten ”Från skaparna av Hitta Nemo”. Det är starten på ett av flera klipp som anspelar på dåd på skolor. ”Tror ni att ni kan gömma er från mig?”, hörs en barnröst säga i en av dem, i en annan ljuder skott och barnskrik.
Rasistiska nidbilder av svarta personer, i Pixars animerade stil, stjäl i ett annat klipp varor från en affär och smiter från polisen som säger ”De stjäl allt som inte är fastbultat”.
Det är helt okej att använda estetiken från Pixars verk i Open AI:s videogenerator Sora, anpassat för att skapa innehåll som funkar på Tiktok. Detta tack vare en affär värd en miljard dollar, motsvarande över nio miljarder svenska kronor, som tillkännagavs i december och började gälla vid årsskiftet.
I och med Walt Disneys investering i Open AI är det tillåtet att efterlikna 200 karaktärer från Disney, Marvel, Pixar och Star Wars. Avtalet, som gäller i tre år, framhålls som en lösning på det filmbolagen likställer med stöld av deras kreativa egendom i generativ AI.
”Fantasi och kreativitet placeras nu direkt i händerna på Disneyälskare på ett sätt vi aldrig sett förut”, sade Disneys vd Bob Iger i ett uttalande i december, enligt The Guardian.
Det är förbjudet att skapa våldsuppmaningar, propaganda och hatiskt, kränkande och extremistiskt innehåll i Sora, enligt Open AI:s riktlinjer. Men DN har hittat mängder med filmer som bryter mot reglerna.
I ett klipp gör berättarrösten en referens till Förintelsen i en video om en judisk man. Under titeln ”Köket” leds en kvinna till det som framställs till hennes riktiga plats. I en av många videor med homofoba budskap tar en pappa livet av sig när hans son kommer ut som homosexuell.
Andra ”trailrar” baseras på motbevisade konspirationsteorier som att Covid-19-pandemin var orkestrerad av politiker, att USA-valet 2020 vanns med hjälp av valfusk eller att värktabletter orsakar autism.
Videor som dessa har sammantaget miljontals visningar.
– Det är definitivt en form av propaganda. Ett försök till kulturell normalisering, säger Anton Törnberg, docent i sociologi som forskar på radikalisering på sociala medier.
Formatet av en tecknad barnfilm ger rasistiskt och konspirationsteoretiskt innehåll en lättsam och ofta humoristisk ton. Det är en effektiv strategi, menar Anton Törnberg.
– Du paketerar väldigt grova budskap i det här lekfulla, varma och familjära formatet. Estetiken är också speciell eftersom den signalerar nostalgi och barnslighet.
Att använda humor och ironi är en vanlig teknik för att avvärja kritik och flytta fokus från själva budskapet. Målet är att successivt skjuta på gränsen för vad som är okej och normalt.
– Ingen kommer radikaliseras av en enda video, men det blir stegvis förflyttning.
Videorna har publicerats av allt ifrån anonyma konton med en handfull inlägg, till verkliga personer och tydligt politiska sidor. Flera videor har lagts upp av olika användare, tillskrivs olika skapare och har gjorts i flera snarlika versioner. Det gör det svårt att förstå vem källan egentligen är.
Anton Törnberg säger att påverkansförsök generellt ofta kommer från professionellt håll.
– Det går inte för mig att säga vem som ligger bakom de här. Men en väldigt stor del av den politiska desinformationen i dag drivs av aktörer med makt, både ekonomisk och på andra sätt. Jag har svårt att tro att något annat gäller här.
Synen på moderering av sociala medier har skiftat de senaste åren, pådrivet av USA:s president Donald Trump och hans anhängare som kallat techbolagens tidigare riktlinjer för inskränkningar av yttrandefriheten.
– Moderering har blivit extremt politiskt laddat och plattformarna riskerar kritik, säger han och fortsätter:
– Modereringsfrågan tolkas som en del av kulturkriget, särskilt i USA. Sedan finns en ekonomisk aspekt också. Vi vet att polariserande budskap genererar engagemang och de här plattformarna lever på det.
DN har sökt ansvariga hos Disney utan resultat.
Fakta.Sora och Disney
● De allra flesta av videorna som DN kartlagt har skapats i videogenereringstjänsten Sora.
● Det är Open AI, skapare av Chat GPT, som ligger bakom Sora.
Sora är en betaltjänst. Ett abonnemang genom Open AI kan kosta mellan några hundra och några tusen kronor i månaden.
● Avtalet mellan Open AI och Walt Disney innebär även att Walt Disney har option på ytterligare aktier i Open AI, att AI-jättens teknologi börjar användas i filmbolagets produktion och att utvalda Disneyliknande videor skapade i Sora ska visas på strömningstjänsten Disney+.
