DN har tidigare kunnat berätta om ett nätverk på videoplattformen Tiktok som säljer kläder och väskor med AI-filmer som påstår att produkterna är handgjorda av utsatta människor som behöver hjälp. Bland de falska klippen finns personer med Downs syndrom och skadade krigsveteraner, människor som inte finns i verkligheten.
Trots att det bryter mot Tiktoks egna AI-regler får så gott som alla klipp grönt ljus när de anmäls för granskning.
För mindre än två veckor sedan trädde också nya EU-regler för AI-filmer i kraft. De är en del av EU:s AI-förordning som kräver att AI-material, som bilder och videor, måste förses med en särskild markering som gör det tydligt att de inte avbildar något verkligt.
Reglerna ska varna när filmer som efterliknar verkliga personer och händelser inte är äkta. Men klipp av exempelvis personer med Downs syndrom som används för att sälja väskor på Tiktok kan ändå omfattas. Den bedömningen gör Daniel Westman, jurist specialiserad på it- och medierätt.
– Det räcker att innehållet ger sken av att visa en existerande person. Min bedömning är att videor av det här slaget skulle behöva märkas.
Företag som bryter mot AI-förordningen kan tvingas betala böter på upp till 3 procent av sin omsättning, eller 15 miljoner euro. Men sannolikt klarar sig Tiktok ändå undan det. EU-kraven är nämligen inriktade på företaget vars AI-system skapar själva klippen – inte en plattform som Tiktok där de återpubliceras. De största plattformarna har visserligen andra krav på sig för att bekämpa vilseledande desinformation.
– Men det handlar mer om systemhotande desinformation rörande val och samhällsdebatt, säger Daniel Westman.
Det finns flera sätt att markera material som AI-genererat. Ett sådant är Synth ID, som utvecklades av Google. Det gömmer en digital vattenmärkning i bilden eller filmen som gör att program kan identifiera dem som AI-genererade. Open AI, företaget bakom Chat GPT, använder både Synth ID och ytterligare en metod för märkning, och erbjuder en funktion för att verifiera om material är AI-genererat med deras verktyg.
Läs mer:
Tiktok gav AI-bluffarna grönt ljus – bröt mot sina egna regler
Tiktok pausar kritiserat AI-verktyg: ”Obehagligt”