I Haruki Murakamis roman ”Dance, dance, dance” från 1988 är huvudpersonen en skribent som hankar sig fram på att skriva lättsmälta artiklar; snabbproducerade och med låg verkshöjd. Det handlar om restaurangtips i olika städer, och så vidare.
Det är ett journalistiskt otacksamt arbete, illa ansett och lågavlönat. ”Men någon måste ju göra det”, resonerar han lakoniskt, jämför det med andra sysslor i gigekonomins b-lag, som att hämta sopor eller skotta snö: ”I tre och ett halvt år hade jag skottat snö. Kulturell snö.”
Sedan internets demokratisering i mitten på 00-talet har den kulturella snömängden ökat stadigt. I dag, i sociala medier- och AI-eran, är det lockande att tala i termer om lavinfara.
Ett massivt skred av automatskapat innehåll, billigt och lågkvalitativt, och ofta med cyniska avsikter, håller på att överösa vår kultur.
På musiktjänsterna riskerar mänsklig musik att drunkna i AI-skval, medan Amazon kämpar med att hålla utbudet rensat från AI-skapade böcker, som ofta är rena sammanfattningar av existerande verk. Youtube fylls av automatiserade nonsensvideor riktade till barn: hallucinatoriska, animerade klipp utan handling, med smältande färgblock och fritt svävande ögonglober, medan en robotröst räknar ner i bakgrunden. Verkshöjd som en skärmsläckare på 1990-talet.
Och så den typen av texter som nämns i Murakamis roman; hundratals substanslösa artiklar kan dagligen pumpas ut från samma sajt med hjälp av textrobotar som Chat GPT.
En rapport som granskat sådana sidor slår fast att ”nästan samtliga använder sig av intetsägande språk och upprepande fraser, kännetecken för artificiell intelligens”.
I AI-ruschens startgropar fanns en dröm om att maskinerna skulle effektivisera bort trista måsten och sysslor. I stället skulle vi bli esteter på heltid – bara ägna oss åt konst, åt målande, skrivande och musicerande; allt som modernitetens teknokrati hotat decimera i människan.
Få såg däremot en framtid där även de sköna konsterna effektiviserades bort av maskiner. Men där är vi nu, i framtiden, omgärdade av skvalmusik och syntetiskt innehåll (samt en Jesus bestående av skaldjur, men mer om det senare).
En studie utförd av forskare vid bland annat University of California försökte ta reda på hur stor del av nätets innehåll som består av detta automatskapade cyberrymdskrot.
Av de 6,4 miljarder granskade meningarna på nätet misstänktes hela 57 procent vara AI-genererade och AI-översatta till två eller tre språk. Att göra direktöversättningar av skräp är en vanlig taktik för att maximera träffytan.
De analyserade meningarna återkom i en överväldigande majoritet artiklar av ”låg kvalitet”. Forskarna nämner exempel som: ”Hur man beslutar sig för att vara lycklig” och ”Tips till nya båtägare”.
– Det är egentligen inget nytt att innehåll skapas enbart i syfte att skapa innehåll. Det nya är att det nu kan produceras i mycket större skala än tidigare, säger Mattias Rost, universitetslektor vid avdelningen för Människa-datorinteraktion på Göteborgs universitet.
Det är egentligen inget nytt att innehåll skapas enbart i syfte att skapa innehåll. Det nya är att det nu kan produceras i mycket större skala än tidigare
För att serietillverka allt detta material behövdes tidigare en skribentstab; täta kluster av levnadströtta Murakamifigurer vid tangentbord. Men AI ersätter dem, och utför det så gott som kostnadsfritt. Och det görs, som sagt, i ett industriellt omfång.
Att driva sådan farm för innehåll kallas mycket riktigt ”content farming”, att ösa ut stora volymer text som matchar så många populära sökord som möjligt. Då placeras artiklarna högt på sökmotorernas träffsidor. Den lättköpta internettrafiken används sedan för att sälja annonsplatser.
Så skapar informationskaosets entreprenörer pengar av ingenting.
Det är en blomstrande business: sammanlagt beräknas sådana sajter omsätta 100 miljarder kronor per år.
Kanske behöver det inte påpekas, men för säkerhets skull: ja, det utförs av maskiner, men de lyder under människor. Som planerar och trycker på knappen. Tekniken och hur den används speglar blott det mänskliga sinnets basutbud; våra drifter, ambitioner, fantasier – titeln på Netflix dystopiska techserie ”Black mirror” reflekterar just det.
Så att den AI-genererade konstens uttryck är ett digitalt sopberg skapat för att lura pengar av andra säger väl … något om oss. Eller, troligare: allt.
För vanliga nätanvändare orsakar det flera problem. Till exempel har det blivit svårare att söka på nätet – under skikten av annonser och sponsrade produkter väntar ett trögvadat sjok av opålitliga träffar och algoritmiskt gillrade fällor.
”Sökmotorerna blir allt sämre på att hitta äkta och användbart innehåll för att möta användarnas behov av information”, slår en tysk studie fast. Enligt en expert som affärstidningen Fortune intervjuat är Googles sökresultat de sämsta som setts på åtminstone 14 år.
Informationsmanipulationen gäller inte bara text och musik. På Facebook har det utvecklats ett eget ekosystem av sidor och grupper som massdistribuerar AI-bilder i syftet att suga åt sig reaktioner och visningar.
Dessa bilder är märkliga skapelser: sammansatta av slumpmässiga beståndsdelar, som om de lyder under ett förskolebarns fria associationer.
Det största fenomenet just nu kallas ”Shrimp Jesus”.
Bilden föreställer en marin Messias, stående på havsbottnen med armarna utslagna. De är gjorda av kräftor. Kroppen av hopslingrade skaldjur. Den är både biologiskt och teologiskt provocerande. Den är svår att slita blicken från, tar vår uppmärksamhet i besittning, som i dagens ekonomi blivit världens värdefullaste myntslag.
Att många reagerar på bilden gör att den visas för desto fler av Facebooks algoritm. När man nått tillräckligt många kan andra ämnen smygas in mellan bilderna. Politisk manipulation, till exempel.
Eller, vanligare: kommersiella budskap, länkar till mer eller mindre ljusskygga nätbutiker eller rena bedrägerisajter.
Det är beklagligt. Men hata inte spelet, hata spelifieringen, fenomenet att alla beteenden kan och ska mätas – och därför också kan manipuleras och slås mynt av.
Sedan internets gryning har techjättarna försökt hitta sätt att stävja spamspridningen. Vissa metoder trubbigare än andra: när mejl var skräpets vanligaste kommunikationsform i slutet av 1990-talet uppfann Microsoft en inkorg som automatiskt blockerade meddelanden vars ämnesrader inrymde både frågetecken och utropstecken.
I mars tillkännagav Google en satsning på hårdare tag mot AI-skapade sajter och bloggar. Enligt deras beräkningar kommer det ”minska mängden lågkvalitativa sökträffar med 40 procent”.
Men går det att bekämpa – eller skapas mer spam och slam än man hinner med att rensa bort?
– Det blir nog som vanligt en katt och råtta-lek. I de fall man lyckas identifiera vissa sidor så förfinas metoderna för att skapa dessa sidor. Vilket försvårar identifieringen som därför måste bli bättre, och så vidare, säger Mattias Rost.
Att vår kultur fylls med AI-skräp medan mänskligt skapade böcker, låtar, artiklar och bilder trängs undan är förstås dåligt. Men det drabbar också AI:n, eftersom den tränas på material från nätet. Det betyder att skräpskapad data sipprar in i träningsmängden, AI:n förgiftar sig själv, allt blir en blekare kopia av en kopia i takt med att innehållet blir mer förutsägbart.
Inom forskning kallas det för en modellkollaps – att systemen försvagas i en rundgång av dålig och allt sämre data. Som en digital version av viskleken.
Robert Östling är docent vid Institutionen för lingvistik på Stockholms universitet. Han säger att en konsekvens av att dålig data studsar runt i ett eko kan bli att negativa egenskaper – till exempel rena felaktigheter eller stereotyper – förstärks.
– Är man inte försiktig kan det få orimligt stor påverkan på modellerna man tränar. Till exempel minns jag när vi testade en tidig svensk språkmodell, som mest upprepade ”online casino online casino online casino”. Så jag misstänker att datan var dåligt rensad.
(Troligen berodde det på mängden reklam för onlinecasinon som då cirkulerade på nätet.)
I vilket fall är det lätt att känna att AI-utvecklingen mist lite av sin lyster, att det finns skäl att bli dyster. Vad väntar i informationsålderns framtid?
Robert Östling hoppas att folk ska bli mer paranoida på nätet över vem som egentligen är människa, och i förlängningen mer källkritiska. Han gissar även att vi troligen kommer att vänja oss vid det artificiella; att vi kommer ta för givet att många typer av enklare texter, illustrationer, hissmusik är automatgenererade.
Hans liknelse är kärnfull:
– Som plastblommor eller något.
