Ett inslag som bland annat handlade om hur den amerikanska migrationspolisen, ICE, har hamnat i konflikt med lokalpolisen i flera städer i USA sändes i söndagskvällens
”Agenda”. I ett klipp visades en lokalpolis från New York som skäller ut en ICE-agent. Klippet var dock skapat av artificiell intelligens – och publicerat av misstag.
– Vi upptäckte det själva därför att egen personal på SVT larmade och jag fick också ett antal externa mejl, säger Michael Kucera, ansvarig utgivare för ”Agenda”.
”Agenda”-avsnittet togs bort från SVT Play under söndagskvällen, och laddades senare upp på nytt med AI-klippet borttaget ur sändningen, tillsammans med en rättelse i beskrivningen. SVT publicerade även en artikel om misstaget när de blivit medvetna om vad som hade hänt.
– Misstag kommer alltid att ske i publicistisk verksamhet, och det viktiga då är att man snabbt är transparent med att man har gjort fel, säger Michael Kucera.
Helena Dal, pressansvarig på Mediemyndigheten, säger att teknikutvecklingen har gått så snabbt att det har blivit svårt att avgöra vad som är skapat av AI och inte. Samtidigt fanns det tecken på att klippet som visades i ”Agenda” inte var äkta, till exempel en felstavning, något som är typiskt för AI-genererade videor.
– Jag tror inte man kollar det ordentligt. Hade man bildcheckat det där så hade man ju kanske kunnat reagera då, säger Helena Dal.
Jannike Tillå, chef för kommunikation och samhällsnytta på Internetstiftelsen, håller med.
– Teknikutvecklingen har gått snabbt, men i klippet finns en felstavning på en väst som gör att man borde ha stannat upp. Tidigare har man till exempel kunnat titta på antal fingrar och andra saker som AI har haft svårt att återskapa naturligt. Nu handlar det mer om metoder för digital källkritik, som att förstå sammanhang, kontrollera avsändare och jämföra med annan nyhetsrapportering. Men här har ju SVT helt klart gjort en miss.
Michael Kucera säger att det var ”lite slarvigt” att klippet publicerades.
– Det är helt enkelt tyvärr ett beklagligt misstag. En näsbränna för oss. En typ av misstag som vi verkligen inte vill göra, men som tyvärr har hänt.
Klippet hämtades från sociala medier, utan att något etablerat medieföretag hade publicerat det innan. Michael Kucera säger att SVT:s grundregel är att inte använda bildmaterial från sociala medier, men att det finns undantagsfall.
– Men då vill vi ha en noggrann diskussion om varför och var materialet kommer ifrån. Och där har vi brustit i det här fallet.
Den snabba AI-utvecklingen har lett till att medier nu befinner sig i ett stort digitalt skifte. Något medier kan lära sig mycket av – om de ser till att satsa på utbildning i bildverifiering, menar Helena Dal.
– Det är väl så mänskligheten har gått framåt. Man behöver göra några misstag och sen lära sig av det och också vara tydlig med vad det är som blev fel och hur man kan göra det bättre.
Jannike Tillå framhäver vikten av att SVT direkt pudlade och erkände sitt misstag, eftersom de flesta AI-genererade klipp sprids via sociala medier, som inte har någon ansvarig utgivare.
– Man måste stärka digital källkritik och kunskapen bland den breda allmänheten. Det är inte alltid du tar del av desinformation gjord av AI från ett etablerat mediehus.
Journalister måste göra en avvägning mellan att vara snabb och att göra en ordentlig verifiering i dagens medielandskap, enligt Helena Dal.
– Risken finns ju att om man väntar för länge så är man inte först på nyheten. Men om man är först då så kan det finnas en risk att det inte är hundraprocentigt verifierat.
Läs mer:
Fenomenet ”workslop” visar hur människor tvingas städa upp AI-slarv
AI-användandet i Sverige ökar kraftigt
