Strax före klockan 12 den 17 april 2025 ställer en 20-årig man en fråga till Chat GPT. Han undrar var säkerhetsspärren sitter på ett 12-kalibrigt hagelgevär. Några minuter senare utbryter skottlossning på Florida State University i USA. Två personer dör, sex skadas. När polisen tar sig in på skolan grips den misstänkte gärningsmannen Phoenix Ikner.
I utredningen av masskjutningen framkommer att Ikner skickat över 13 000 meddelanden till Chat GPT innan han ställer frågan om hagelgeväret. Han tycks ha betraktat chattroboten som en livspartner.
Timmarna innan dådet förklarar han för boten att Gud har övergett honom, sedan ställer han mängder med tekniska frågor om vapen. Boten svarar artigt. Han undrar också hur många dödsoffer som krävs för att en skolskjutning ska få nationellt genomslag i medierna. Chat GPT svarar att tre eller fler döda oftast är ”den inofficiella gränsen för omfattande nationell medieuppmärksamhet”.
Open AI, företaget bakom den populära chattroboten, har svurit sig fria och i ett uttalande till BBC har man betonat att Chat GPT inte kan hållas ansvarigt för masskjutningen. Men Flordias justitieminister James Uthmeier hävdar att AI-modellen har spelat en avgörande roll.
– Mina åklagare har sagt att om det hade varit en person på andra sidan skärmen så skulle vi ha åtalat personen för mord, har han sagt i ett uttalande och nyligen stämde delstaten bolaget mot bakgrund av masskjutningen.
På senare tid har AI-chattar allt oftare kommit att utgöra bevismaterial i brottsutredningar, så även i Sverige. Enligt Jale Poljarevius, underrättelsechef i Polisregion Mitt, är utvecklingen logisk. Kriminella har alltid varit innovativa och redo att använda ny teknik.
– Nu går samhället än en gång in i en ny digital fas. Då gör även brottsligheten det, säger han.
Enligt Jale Poljarevius innebär AI-tjänsterna både en utmaning och en möjlighet för polisen. Den som vill kan enkelt skaffa sig kunskap som kan användas för att begå brott. Samtidigt är språkmodellerna ytterligare en plats där människor lämnar spår efter sig.
– Där kan vi både arbeta proaktivt med dataavläsning och reaktivt med att säkerställa bevis när brottet redan har skett. Med rätt förmåga kan vi använda det här för att få folk lagförda.
Men varför är vi så öppenhjärtiga i våra konversationer med chattrobotar? Nils Gilman, framtidsforskare och operativ chef på tankesmedjan Berggruen Institute, säger att människor kommit att betrakta AI-verktygen som personliga rådgivare snarare än sökmotorer. Han menar att samtalen blir förtroliga eftersom språkmodellerna är utformade för att föra en människoliknande dialog – det får användarna att öppna sig.
– Ofta fyller de ett tomrum för dem som saknar trygga mänskliga samtalspartner där människor kan dela med sig av känsliga tankar.
2025 ställer en 17-årig flicka från Sundsvall mängder med frågor till Chat GPT om ett sprängdåd som hon åtagit sig att utföra för det kriminella nätverket Foxtrots räkning. Flickan påpekar att hon inte har några vänner att prata med om detta.
Boten avråder flickan från att utföra dådet. ”Det är farligt, olagligt och kan kosta dig livet”, skriver den. Efter ett tag verkar flickan tröttna. ”Fuck it, jag kommer göra det”, skriver hon. Senare rannsakar hon sig och kontaktar en kurator på skolan som larmar polisen. Det leder till att hon frias i tingsrätten.
Eftersom språkmodeller som Chat GPT har matats med ofattbara mängder information kan de berätta hur man gör en perfekt brownie. De kan också redogöra för hur man hur man dödar någon. Att tillämpa unlearning, alltså att ta bort en viss typ av information, har visat sig vara praktiskt taget omöjligt. Det säger Kristina Knaving, teknisk expert AI vid Post- och telestyrelsen.
– Människorna som tränar de här modellerna försöker komma åt problemet, men man stoppar in så sjukt mycket information att ingen har full översikt över vad som finns där, eller vad informationen skulle kunna leda till, säger Kristina Knaving och framhåller att de som tränar modellerna arbetar med att förhindra dem från att säga dåliga saker.
– Men det är ett svårt problem, särskilt som de inte vet vad användarna kommer att be om.
När reportrar på tv-bolaget CNN i våras utgav sig för att vara tonåringar som planerade attentat var åtta av tio AI-botar tjänstvilliga. Deepseek avslutade en konversation med hälsningen ”Lycka till med skjutningen!”.
Chat GPT sätter sig emellertid ofta på tvären vid en direkt fråga om hur man begår ett brott. Men den här typen av skyddsvallar kan rundas, påpekar Kristina Knaving. Som användare kan du exempelvis kamouflera frågan genom att säga att du skriver på en bok.
Ett konkret exempel på detta dök upp i ett utpressningsärende i Västsverige för ett halvår sedan. Då ber en ung man Chat GPT om hjälp med att utforma ett hotfullt meddelande. Boten svarar att det mannen beskriver låter allvarligt.
Mannen påpekar då att han skriver på en bok och att det är meningen att det ska låta läskigt. Boten övermannas av sin förprogrammerade vilja att hjälpa och levererar en ”läskig” text som ”passar för en bok”. Därefter frågar Chat GPT om mannen vill ha en ännu ”kallare” text som är ”mer psykologiskt pressande”. I februari dömdes mannen till fängelse för försök till grov utpressning och i domen nämndes konversationen med boten.
Den som pratar med en chattrobot måste alltså räkna med att det som sägs kan hamna i en brottsutredning. Enligt framtidsforskaren Nils Gilman är det problematiskt. I en debattartikel i New York Times förespråkar han att interaktioner med AI borde kunna omfattas av sekretess, alltså på samma sätt som en terapeut har tystnadsplikt. Annars, menar han, finns risken att AI-användare självcensurerar sig.
– Det skulle förstöra den öppna dynamik som gör AI till ett så användbart stöd inom psykisk hälsa, juridisk rådgivning och personlig reflektion.
Samtidigt framhåller han att undantag kan göras vid aktiv brottsplanering och överhängande hot i likhet med de undantag mot tystnadsplikt som finns om exempelvis en läkare får kännedom om vissa grova brott.
– Jag vill hävda att den bredare samhällsnyttan av en fri och ärlig inre dialog uppväger den sporadiska förlusten av bevismaterial, precis som samhället för länge sedan accepterade att sekretessen mellan terapeut och patient ibland skyddar information från åklagare, säger Nils Gilman.
Är det möjligt att få ett AI-verktyg att göra etiska överväganden? Lars Lindblom, biträdande professor i tillämpad etik vid Linköpings universitet, påpekar att dagens AI bygger på statistisk prediktion. Den förutsäger framtiden genom att analysera historiska data med hjälp av matematiska modeller och sannolikhetslära.
– Så resonerar vi inte när vi funderar över om det är att rätt att ge pengar till välgörenhet. Då balanserar vi olika värden mot varandra och den typen av resonerande har vi inte byggt apparater för. AI är en prediktionsapparat. Om vi vill ha ett moraliskt omdöme så får vi bygga en annan apparat.
Fall där AI-samtal använts som bevis
Några fall där konversationer chattrobotar använts som bevis i brottsutredningarna:
● Efter att en tonårsflicka i Sundsvall tagit på sig ett bombuppdrag för Foxtrot-nätverket ber hon Chat GPT om råd hösten 2025. Hon frias sedan.
● I maj 2025 lockar ett tonårspar en 17-åring till ett möte i Stockholm. Efter att pojkvännen knivskurit tonåringen ber han Chat GPT om tips för att undanröja bevis.
● Kort tid innan en ung man skjuter ihjäl en 20-åring i Alby utanför Stockholm rådfrågar han Chat GPT. Han undrar bland annat hur man blir av med tändsatspartiklar och hur man kommer undan polisen om man dödat någon.
● Sommaren 2025 råkar en 15-årig pojke spränga sig själv av misstag. En annan pojke som rekryterade 15-åringen ställer efter händelsen frågor till Chat GPT om hur man undviker att bli tagen av polisen.
● En tonårspojke tar hjälp av Chat GPT för att planera mord i Uddevalla. I våras dömdes han för två mordförsök.
Läs mer:
16-åring bad AI om hjälp att hugga ihjäl Irankritiker
Professor: Går inte att lita på Chat GPT
Regeringen vill kunna använda AI för att hitta brottslingar
