Detta är en huvudledare skriven av medarbetare på Dagens Nyheters ledarredaktion. DN:s politiska hållning är oberoende liberal.
I veckan avslutades rättegången mot en man som anklagas för att under lång tid ha stalkat och trakasserat sportjournalisten och programledaren Karin Frisk. Enligt åtalet hade mannen sparat 26 589 filer om Frisk och hennes anhöriga och skickade bland annat AI-porr som han gjort på Frisk till både hennes bekantskapskrets och till sportprofiler och andra kändisar. Syftet tycks ha varit att framställa henne som en dålig person.
Ironiskt nog var det tur för Frisk, eftersom det gör att de AI-fejkade porrbilderna kan räknas som förtal. Det finns nämligen ingen generell lag i Sverige mot att göra eller sprida AI-porr på någon mot personens vilja.
2018 fick vi äntligen med lagen om olaga integritetsintrång ett förbud mot hämndporr, att sprida verkliga avklädda bilder eller filmer på någon. Den anses dock inte gälla för AI-genererad pornografi. I vissa fall kan förtalslagen användas i stället, men det kräver alltså att sexbilderna framställer personen som klandervärd. Om man däremot gör en AI-film på en kvinna som blir våldtagen så kan det vara lagligt, eftersom våldtäktsoffer generellt inte betraktas som klandervärda.
Om man gör en AI-film på en kvinna som blir våldtagen så kan det vara lagligt, eftersom våldtäktsoffer generellt inte betraktas som klandervärda.
Och det är vanligt med våld och förnedring i AI-porren. Kommer ni ihåg när Elon Musk för ett par månader sedan gjorde om X till en maskin för spridning av icke samtyckt pornografi på både kvinnor och barn? Under de veckor när tjänsten var allmänt tillgänglig beställdes allt grövre bilder, med allt mer våld.
På bara elva dagar i januari skapade Musks AI-tjänst Grok 3 miljoner ej samtyckta sexualiserade bilder. Av dem var 23 000 på barn. Hur många som såg bilderna kan man bara gissa.
Men AI-porr är en enorm business numera. På de 40 största särskilda sajterna för AI-genererad icke samtyckt pornografi finns mer än 270 000 filmer med mer än 4 miljarder visningar. Och utvecklingen är explosionsartad. 2023 fanns bara en handfull ”avklädningsappar”. Nu är det omkring 300, många av dem enkelt tillgängliga i alla telefoner via Apple store och Google Play store.
Det finns AI-porr på de flesta kvinnliga kändisar och kända kvinnliga politiker.
För app- och sajtägarna är bara en del av den här ekonomiska infrastrukturen. Där finns också både techjättarna och världens stora betalningssystem, som Visa och Mastercard. De senare har tidigare hävdat sig motarbeta både barnporr och frivilligt sexarbete, men har inga invändningar mot Grok, som i den separata appen fortfarande erbjuder sina avklädningstjänster.
I den politiska diskussionen om problemen med deepfake-tekniken har nästan allt fokus legat på risken för desinformation. Men 98 procent av alla deepfake-bilder är porr och de drabbade är nästan bara kvinnor.
Det betyder dock inte att frågan inte är politisk. AI-porren visar tvärtom hur misogyni fungerar i praktiken, fortfarande.
Hittills har de värst utsatta varit dels skolflickor, eftersom unga killar i allmänhet känner till avklädningsapparna, dels kvinnor i offentligheten. I ”The new age of sexism” skriver Laura Bates om hur det finns AI-porr på de flesta kvinnliga kändisar och kända kvinnliga politiker. Filmerna på de senare tycks ibland göras och spridas för att påverka val och ibland främst för att kränka och förnedra. Oavsett vilket är det ett hot mot demokratin.
Ett EU-direktiv från 2024 kräver att medlemsländerna senast 2027 inför förbud mot AI-porr. Efter Grok-skandalen i januari har EU ökat trycket och ett förbud i hela unionen kan komma redan i sommar. Det är inte en dag för tidigt.
Läs mer:
DN:s ledarredaktion: Det är helt sjukt hur Trump talar om kriget
DN:s ledarredaktion: Hur smart är det egentligen att sänka bensinskatten igen?
