I december förra året tecknade Region Gävleborg avtal med det svenska AI-bolaget Tandem Health. Företaget säljer en lösning som spelar in samtal med läkare och patienter, och sedan automatiskt transkriberar dem och ger förslag på journalanteckningar.
I beslutunderlaget från regionen pekar man på stora vinster. Läkare inom primärvården bedöms kunna lägga en timme mindre på administrativt arbete – varje enskild arbetsdag – vilket är en stor vinst i ett yrke där tidspressen kan vara enorm.
Samtidigt finns det farhågor kring tekniken. Tjänstemän som arbetar med regionens informationssäkerhet och dataskydd skriver i en rapport från i höstas att de avråder från att köpa in tjänsten, något tidningen Fokus var först med att rapportera om.
”Vår rekommendation är att Region Gävleborg inte bör gå vidare med en upphandling […] i dagsläget”, står det i skrivelsen.
Tjänstemännen skriver vidare att de ser ”betydande dataskyddsrisker” bland annat kopplat till att Tandem Health använder sig av en molnlösning från amerikanska Microsoft och AI-lösningar från Open AI, bolaget bakom Chat GPT. Att lägga känsliga personuppgifter på ett amerikanskt bolags servrar medför, inte minst under det rådande geopolitiska läget, potentiella problem.
Amerikanska lagar som Cloud Act och FISA 702 gör det nämligen möjligt för landets brottsbekämpande myndigheter och underrättelsetjänster att begära ut data som lagras hos inhemska techbolag – oavsett om den ligger på servrar i USA eller i någon annan del av världen.
Det betyder att det, åtminstone i teorin, finns en risk att känslig information om patienter kan hamna i händerna på amerikansk underrättelsetjänst.
– Sannolikheten att det sker är en annan fråga, men problemet är att möjligheten finns där. Därför är det problematiskt när svenska myndigheter väljer att lagra känsliga uppgifter i amerikanska moln, säger Johan Linåker som är datavetare vid Lunds universitet och forskningsinstitutet Rise.
Skulle du känna dig trygg med att en läkare som du träffar använder en tjänst som skickar data till ett amerikanskt moln?
– Generellt sett skulle jag inte det, utan hade frågat mig hur beslutsfattarna menar att mina patientdata skulle kunna hanteras säkert och i enighet med europeisk datalagstiftning.
Från regionens sida säger man att man tagit tjänstemännens varning på allvar, men att man vägt nyttan från AI-verktyget mot säkerhetsriskerna.
– Hälso och sjukvårdslagen säger att vi ska arbeta kostnadseffektivt, och vi menar att den stora nytta vi kan dra av systemet överväger vad vi upplever som en mindre risk kring inforationssäkerhet. Därför är vi skyldiga att göra det här, säger Simon Nilsson som är utvecklingschef i Region Gävleborg.
Han säger sig vara trygg med de säkerhetsåtgärder som Tandem Health gjort för att säkra patienternas data.
Bolaget uppger för Dagens Nyheter att de inte lagrar några ljudfiler, utan endast de transkriberade textfilerna, i Microsofts moln, och att filerna raderas efter sju dagar. De har även ett avtal som säkerställer att inga patientdata får lov att användas som för att träna AI-lösningar.
– Vi följer givetvis den regulatoriska och geopolitiska utvecklingen, och vi har alternativ på plats för att snabbt kunna byta till en annan leverantör om det behövs, säger Tandem Healths grundare och vd Lukas Saari.
Hur ser du på riskerna som finns kring att amerikanska myndigheter kan begära ut data som lagras hos Microsoft?
– Oavsett hur du behandlar data finns det alltid risker associerat med det. Vi har gjort allt som står i vår makt för att reducera risken att datan behandlas på ett felaktigt sätt.
Läs mer:
Experter: Sverige sitter fast i USA:s molntjänster
Varningen: ”Microsoft kan stänga ner Sverige”
Linus Larsson: Techbolagen har hela EU i sina klor
