Detta är en text publicerad på Dagens Nyheters ledarsidor. Ledarredaktionens politiska hållning är oberoende liberal.
Strax efter jul exploderade nyheten att världens rikaste man släppt loss en barnporrmaskin på sociala medier. Det var Elon Musk som hade ändrat i sin AI-tjänst Grok så att alla kunde beställa sexualiserade eller våldsromantiserande bilder på vem som helst. Bilderna lades ut i det öppna flödet på Musks plattform X, där användare sedan eggade varandra att beställa allt grövre bilder, med mindre kläder, mer utmanande eller förnedrande poser, mer nedkladdade med sådant som skulle föreställa blod och sperma.
När Center for Countering Digital Hate, en ideell grupp som jobbar mot trakasserier på nätet, gick igenom Groks bildproduktion hittade de 3 miljoner bilder som på bara 11 dagar sexualiserats genom AI. Av dem var 23 000 på barn.
Det här handlar om övergrepp på kvinnor och barn i rent industriell skala.
Det här handlar om övergrepp på kvinnor och barn i rent industriell skala.
Till skillnad från existerande appar för digital ”avklädning” och ljusskygga forum för spridning av hämndporr skedde de här övergreppen ute i det öppna. Bilderna skapades och spreds direkt i en kanal som bland annat svenska politiker använder dagligen för att få ut sitt budskap.
Man hade kunnat tro att det skulle få politikerna att tänka efter: Vill jag verkligen stötta en tjänst som tillhandahåller en maskin för barnporr och kvinnoförnedring? Inte minst som en av de drabbade var vice statsminister Ebba Busch.
Och visst, statsminister Ulf Kristersson kallade bilderna på bland annat Busch för sexualiserat våld. Både Liberalernas partiledare Simona Mohamson och KDU:s ordförande Louise Hammargren rasade, i varsitt inlägg på X. Här någonstans kan man ana problemet. Ingen av dem tyckte visst att miljontals övergreppsbilder, inklusive på en av deras kollegor, var tillräckligt allvarliga för att överväga att kommunicera sitt missnöje någon annanstans än på den tjänst som gjorde kränkningarna möjliga.
Vill jag verkligen stötta en tjänst som tillhandahåller en maskin för barnporr och kvinnoförnedring?
Man kan jämföra med reaktionerna i Storbritannien. Där meddelade digitaliseringsministern att man lägger fram ett förbud mot digitala avklädningstjänster och regeringen hotade att förbjuda X rakt av. Sedan dess har Musk tagit steg för att försöka blidka kritikerna, men man kan fortfarande komma runt begränsningarna och göra fejkad AI-porr i den separata Grok-appen och lägga ut på X.
Nu har också EU-kommissionen inlett en formell utredning av om X brutit mot unionens lag för digitala tjänster. Ett möjligt utfall är att X tvingas stänga av Grok inom EU.
Både Elon Musk och Trumpadministrationen har avfärdat det som censur. Och visst, det är censur. Det är bara det att de flesta rimliga människor tycker att censur av barnporr och övergreppsbilder är bra.
Läs mer:
Isobel Hadley-Kamptz: Det vi ser i Minneapolis är både fasansfullt och hoppingivande
Isobel Hadley-Kamptz: Hur är det möjligt att bygga hus i Kiruna som inte tål snö?
