Detta är en text publicerad på Dagens Nyheters ledarsidor. Ledarredaktionens politiska hållning är oberoende liberal.
Ungefär varannan sekund kommer det en ny AI-bild på X där en flicka eller kvinna ofrivilligt ”klätts av” eller digitalt förvrängts till sexuellt utmanande poser. De utsatta är allt från småflickor till seriösa maktkvinnor, däribland Sveriges vice statsminister Ebba Busch.
Att AI används för att göra porr med personer utan deras samtycke är ingenting nytt – det har länge drabbat såväl vuxna som tonårskändisar och vanliga skolelever – och det finns flera appar som enbart sysslar med fejkad ”avklädning”. Ladda bara upp bilder som du exempelvis hittat på sociala medier på din kollega, klasskompis eller tjejen som nobbade dig på den där festen i höstas och du kan bli din egen porrfilmsregissör.
Men det som sprids nu på Elon Musks X är inte bilder från den sortens mer ljusskygga leverantörer. I stället kommer de från Musks egen AI-tjänst Grok som gör dem på beställning av enskilda användare och och lägger ut dem i det allmänna flödet där de enkelt kan delas vidare. Till skillnad från de flesta specialtjänster är AI-bilderna på X dessutom gratis, vilket ökar tillgängligheten.
I deepfake-porren är det bristande samtycket en viktig del i poängen
Det här handlar inte om moralpanik över människor som själva väljer att klä av sig på bild. I deepfake-porren är tvärtom det bristande samtycket en viktig del i poängen. Dess budskap till alla flickor och kvinnor är att det inte spelar någon roll vad du själv tänker, tycker eller åstadkommer: du är ändå bara en kropp som jag kan göra vad jag vill med. Hatet märks tydligt i de många bilder där beställarna efterfrågat att kvinnorna har synliga blåmärken, ser rädda ut eller har brännskador efter cigaretter.
När Musk tog över tjänsten som då hette Twitter lade han ner det råd som haft till ansvar att motverka utnyttjande av barn på plattformen. Han sparkade också de flesta ingenjörer som jobbat med frågorna. Han har marknadsfört sin AI-tjänst med argumentet att den skulle vara friare och mindre politiskt korrekt än konkurrenterna. När han och X nu möts av kritik för att Grok tillhandahåller sexualiserade bilder på barn och icke samtyckande vuxna har han hittills mest skrattat bort det. X officiella svar till de nyhetsmedier som sökt en kommentar är att ”mainstreammedia ljuger”.
Och det kanske funkar. Lagstiftningen mot deepfake-porr är oklar i de flesta länder, så även i Sverige. Men det för oss vidare till nästa fråga: Varför väljer så många makthavare fortfarande att använda Musks plattform för sin kommunikation?
Varför hänger svenska politiker på en sajt som producerar barnporr på beställning?
Läs mer:
Isobel Hadley-Kamptz: Med AI är risken att barn och unga aldrig lär sig tänka
Isobel Hadley-Kamptz: Där man bygger saker, där tror man på framtiden
