Barnpornografi ökar i en epidemisk fart och sprids via krypterade appar såsom Telegram. Nyheten har förståeligt nog skapat ramaskri i Sydkorea. Det handlar alltså om deepfake-porr: bilder eller filmer där en riktig persons ansikte klipps ihop med AI-genererat nakenmaterial. En majoritet av offren är barn, och ofta skapas bilderna av klasskamrater för att sedan spridas.
På ett sätt är det ju fejk, på det sättet kan diskussionen kring AI-genererad porr även av unga liknas vid den om ”mangamålet” som i början av 10-talet i Sverige skapade stor debatt om tecknad barnporr. Men deepfakeporren kan inte avfärdas som på låtsas. Hela poängen är att tvinga sig till nakenmaterial på någon utan samtycke och ofta att använda det i syfte att förnedra. Eller i utpressningssyfte – i Sverige larmar Polisen om att allt fler, särskilt unga pojkar, utpressats genom sexuella AI-bilder av dem.
Offren för deepfake-porr är verkliga. Och förövarna är flera.
Dels så klart de som skapar deepfake-porren, de som sprider den och de som sparar den. Men ansvaret hos företagen som möjliggör att den skapas får inte glömmas bort.
Techföretag har länge haft möjlighet att utveckla ny teknik utan hämmande regleringar. Men företag inom generativ AI vars tjänst möjliggör eller används av andra som möjliggör skapandet av deepfake-porr måste tidigt hållas ansvariga.
För dessa företag går inte att jämföra med någon som säljer en kamera som sedan används för att filma ett övergrepp. I stället bör de liknas vid själva filmskaparen.
För dessa företag går inte att jämföra med någon som säljer en kamera som sedan används för att filma ett övergrepp. I stället bör de liknas vid själva filmskaparen. För att kunna framställa deepfake-porr måste först deras AI-tjänst övat på en stor mängd bilder föreställande riktiga människors nakna kroppar. Om deras program sedan gör det möjligt för andra att skapa fejkade nakenbilder av verkliga människor är det att se som en tjänst som saluförs.
Storbritannien har i år gått fram för att kriminalisera både skapandet och spridandet av deepfake-porr. Sverige bör snabbt följa i deras fotspår, vilket skulle innebära en vidareutveckling av den hämndporrlagstiftning som kom 2018. Då bör man inte missa chansen att också reglera AI-företagen.
Läs mer:
Max Hjelm: Plötsligt insåg jag att Stockholm blivit lite mer som Köpenhamn – och älskade det
Max Hjelm: Gigarbetarna göms undan – de passar inte in i sagan om magisk AI-teknologi
