Maskinerna spelar in din sjukdomsberättelse och skapar merjobb för vården

Vid mitt senaste vårdbesök frågade läkaren om han fick spela in vårt samtal. Han underströk att ljudet inte sparas. Bara texten. Jag höjer min hand och hejdar hans vidare försök att förklara den nya svarta dosan på hans skrivbord. "Ni har alltså ett program för att transkribera till journalen?", skjuter jag in. "Ja, precis!" ler han stort och ser både lättad och förvånad ut. "Känner du alltså till det?"

Jag förklarar att jag jobbar med it och etik, och berättar också om hur jag vet att det ofta blir fel i transkriberingarna. Han brister ut i ett stort igenkännande skratt… "haha, ja, verkligen!"

Läkaren var uppenbart lättad över att det var jag som sa det först och visade ingen ansats till att tona ner problembilden jag just lyft.

Vilket kanske inte är superförtroendeingivande för en patient som just fick en förfrågan om att samtycka till den där inspelningen.

Men de som köper in dessa system, läser de inte tidningen? Om och om igen kommer rapporter om hur fel det kan bli när maskiner översätter och transkriberar. Och jag tänker att vården kanske är den absolut sämsta typen av verksamhet att rikta in sig på för experiment med en opålitlig teknik av den här kalibern. En teknik som du från gång till gång inte vet om den kommer göra som du förväntar dig. Som i sämsta fall skriver helt befängda saker som aldrig sagts.

När en övervägande majoritet av läkarna i en undersökning på Sahlgrenska universitetssjukhuset uttryckte kritik mot taligenkänningsprogrammet (TIK), angavs dessa anomalier som exempel:

Ord tappas bort, byts ut eller blir fel.
Ibland snappas tal upp från personer i närheten.
Vanligt med rena feltolkningar: »bronksegment 6« blev utskrivet som »Bengt vill ha sex« och »circumflexa« blev »cirkustält«.
Istället för "patienten har en chans", skrev den "patienten har cancer".
Vid diktering av att en pojke "ville öppna alla andras presenter", blev det att han "ville öppna patienter".
När en läkare talade in att "patienten behöver opereras på ortopeden", blev det "patienten behöver operera bort benen…".
En läkare som själv sökte vård för nässelutslag efter att ha druckit "naturvin" såg sedan att det stod i journalen att utslagen berodde på att hen druckit "natt-urin".

Det här blir ett ett stressmoment för läkarna. Det uttrycks så här i Läkartidningen av Anders Thurin, överläkare i klinisk fysiologi och ledamot i styrelsen för läkarföreningen på Sahlgrenska:

– Många som använder det tycker att man inte sparar någon tid. Man måste ändå korrekturläsa och rätta det man har skrivit för att det inte ska bli fel. Det blir mer administration.

Det handlar inte bara om att orden tolkas fel, utan också om att orden faller bort, och det tycker många läkare är än mer allvarligt. Från DN:

– Vi får ibland beskedet "tumör" från röntgen, men då vet vi numera att vi måste ringa tillbaka och kontrollera, för det är ofta fel och skulle ha varit "ingen tumör", säger akutläkaren Elin Storm. […] Problemet är att det tar väldigt mycket tid att dubbelkolla, och för oss betyder det helt krasst att vi träffar färre patienter.

Läkaren på min vårdcentral tycks inte ha någon avsikt att själv tala om hur illa det kan bli med automatisk transkribering Jag misstänker att inte lika många skulle ge sitt samtycke då. Det får mig att undra över alla som inte alls vet hur fel det kan bli. De flesta människor. Vad är det egentligen de godkänner? Om det räknas som samtycke vill jag påstå att det ändå är ett högst oinformerat sådant.

Jag glömmer fråga om maskinen syftar till att transkribera ord för ord eller också förväntas sammanfatta det vi säger. Det första gör ju att mängden text som läkaren måste verifiera blir enorm, och journalens storlek växer snabbt. Hur många fel slinker igenom och hur tidskrävande blir det att ens läsa journalanteckningarna? Det senare gör att viktiga saker kommer missas även om det språkligt blir förförande vackert, och fortfarande att det kan skrivas ut saker som aldrig sagts.

Båda scenarier är alarmerande. Kanske inte för mig, men får många andra patienter. Och för vårdpersonalen själva. Jag vill knappt tänka på det.

Att bjuda in en maskin till ett privat samtal

Det här handlar dock om långt mer än tvivelaktig teknik. Vi får inte glömma att det på ett genomgripande sätt också handlar om hur relationsdynamiken i vården förändras. Om förtroende och ärlighet.

Två människor i ett rum med stängd dörr får nu sällskap av en maskin som tolkar deras ord och skriver ner dem för andra att läsa.

Det råder ingen tvekan om att en patient som har problem med sin hälsa, och söker hjälp av en läkare, står i beroendeställning till professionen. För att komma vidare, för att på riktigt må bättre, behövs läkaren. Det är inte en person man gärna nekar till. Tvärtom finns en förväntan att läkaren vet bäst.

Om läkaren efterfrågar samtycke om inspelning krävs en betydande kapacitet i form av kunskap och pondus för att säga nej. Hos en person som är sjuk och på flera sätt kan ha nedsatt kognitiv förmåga. Många tänker nog att en kompetent läkare inte föreslår detta för mig som patient om hen inte vet att det är helt säkert och hjälpsamt för alla inblandade.

Men vet läkaren det? Finns det kanske även en ytterligare persondynamik bakom kulisserna – till exempel den mellan chef och medarbetare. Det skulle kunna innebära vidare slitningar som också påverkar samtalets kvalitet.

I vilket läge lämnade till exempel läkaren själv samtycke till inspelningen och transkriberingen? Känslan är att man som medarbetare inte får påverka sin arbetssituation i särskilt stor utsträckning när det gäller införande av ny teknik.

Maskinens närvaro kan påverka vad en patient säger

Vad väljer jag att säga när maskinen finns i rummet och lampan lyser? Vad säger jag inte? Kanske kommer jag under samtalet på att jag vill berätta något som jag inte alls vill att maskinen spelar in. Men det är för obekvämt att be om att stoppa den, så jag lämnar det osagt. "Går den ens att stoppa?" tänker jag.

Och när jag nu är upptagen med att fundera över den där maskinen… när jag inte är närvarande i samtalet så som jag skulle vilja vara, vad glömmer jag säga?

Det behövs bara en misstanke om att en patient inte är ärlig i sin berättelse med anledning av maskinens närvaro för att förstå hur farlig den är. Inte nog med att den kan transkribera fel, det räcker alltså med att den svarta dosan bara ligger där för att den ska riskera påverka innehållet i den viktiga ordväxlingen.

Och för en korrekt historisk bild av min kontakt med vården funderar jag mycket på vad som händer när en maskin skriver saker jag inte sagt och jag själv inte noterar det förrän långt senare. När ord står mot ord, kommer maskinens ord tolkas som mer trovärdiga än mina egna? Oron blir mer och mer relevant när automatiserad transkribering används i allt fler sammanhang.

Måste jag kanske själv spela in alla möten för att bli mer trygg.

Överflödet av information i din journal

Som sten på bördan visar det sig att vårdpersonalen nu allt mindre orkar läsa det överflöd som hamnar i digitala journaler. Jag ser själv hur hela chatt-konversationer hamnar där istället för ett urval av det väsentliga. Inte bara automatiserade transkriberingar blir tokiga och tidskrävande, många it-system har undermålig användbarhet och tar allt mer tid från patientkontakt och bidrar till stress.

Rapporter från både Vårdförbundet och Läkarförbundet bekräftar bilden, och det blir ett sorgespel när det digitala bryter ner människor och i förlängningen patientsäkerheten. SVT har intervjuat Johan Månflod, specialistläkare inom allmänmedicin, som säger:

"I dagsläget är det ingen som hinner eller orkar läsa journalen. Patienter kan ha hundratals anteckningar – det är som ett memory-spel att hitta. Det är risk för att man missar ett blödande magsår eller något annat farligt."

Och apropå svårnavigerade system så är de många till antalet:

"Enligt rapporten sitter en sjuksköterska i snitt 5 timmar per arbetsdag framför en dator och kan behöva logga in i över 30 olika IT-system, eftersom programmen inte kommunicerar med varandra."

I effektiviseringens namn har arbetsbördan inom många områden ökat på grund av digitaliseringen, och det som blir lidande när kostnader för it-support ökar är kärnverksamheten.

Sverige bäst i världen på digitalisering 2025

För många år sedan sattes målet att Sverige skulle bli bäst i världen på digitalisering år 2025. Minns du kanske det målet? Du skrattar. Men ibland tänker jag att vi kanske ändå lyckats. Vi har lyckats digitalisera sönder verksamhet efter verksamhet.

Målet att vara bäst på digitalisering är förstås märkvärdig målsättning, även när den uttrycks som "bäst i världen på att använda digitaliseringens möjligheter". Det är jättesvårt att mäta, och sätter fokus på att jämföra en subjektiv användning med andra länder snarare än en ambition att förstå hur människor mår.

God hälsa, glädje, jämlikhet, rättvisa, inkludering, tillgång till vatten, mat, utbildning och husrum – det är mål som jag förstår när man pratar om ett samhälle som värnar om människor och medborgare.

Att göra verktyget till en del av målet är som att spela pingis med en yxa och vara överlycklig över att du fick användning för din strömlinjeformade hacka. Allt ska lösas med verktyget i en vilsen tro att det alltid blir en förbättring. Framgång mäts baserat på om vi använt och implementerat ett huggredskap någonstans i processen.

I stället borde vi så klart mäta förbättringar för människor och samhälle i första hand. Och låta verksamheter använda de verktyg som funkar för ändamålet och för de människor som gör jobbet. Tillåt mig påstå att verktygen inte alls behöver vara digitalisering. Eller så är det ibland det, bara inte in i minsta skrymsle och vrå – och varje rum utan särskiljning.

Som en obligatorisk svart dosa på ett skrivbord.

Löftet om den artificiella lösningen

Nu sitter vi ändå här igen. I nästa iteration obetänksamhet. Verksamheter står redo att upprepa alla misstag ett varv till, bara lite snabbare.

Ett ospecificerat verktyg som är dubbat "AI" kommer nämligen lösa allt nu. Det blir målet. Bara alla springer lite fortare med färre ifrågasättanden, och vi hoppar över alla regleringar och ger maskinerna tillgång till hela vårt privatliv, för innovationskraftens skull. Om alla bara lär sig "AI", eller använder utan protest, kommer besvären vara som bortblåsta.

Men vad är detta "AI", om inte än mer digitalisering?

Det finns ett uttryck på engelska som känns oerhört träffande för den här situationen: "Fool me once, shame on you. Fool me twice, shame on me."

Fool me once, shame on you. Fool me twice, shame on me.

Alltså ungefär: Om du lurar mig en gång så borde du skämmas. Om du lurar mig två gånger borde jag skämmas.

Vi kanske inte behöver räkna antalet gånger som någon lurats av teknikföretag som lovar guld och gröna skogar, det mäktar nog inte räknemaskinen med. Men vi kan nog vara överens om att borde vara dags att skämmas för den som fortsätter köpa. Och i värsta fall binder sig vid långlivade kontrakt som inte går att ta sig ur.

Om inte den dyngsura sarkasmen fick dig att hämta en handduk måste jag kanske förtydliga: nej, jag tror inte att "AI" är lösningen på allt. Min övertygelse är att de som utför jobbet måste få vara de som gör jobbet – för de kan jobbet. Med verktyg som är särskilt lämpliga och som införs på ett säkert sätt. Av de som har jobbet som påverkas.

Tänk tanken att den digitalisering som år efter decennium utlovat effektivisering i stället kanske är en betydande faktor bakom att vårdpersonalen idag går på knäna.

Tänk tanken att digitalisering kanske inte alls gör precis allt bättre. 😱

Kan man bli bäst i världen på att kasta samma yxa på alla problem? Garanterat. Men räkna inte med att det blir mer än… ja, minst sagt…

yxigt.

Frågor att ställa när vården vill spela in

Här är exempel på frågor du kan ställa nästa gång du får frågan om inspelning av ett samtal, oavsett det är inom vården eller någon annan verksamhet.

Tycker du som vårdpersonal att ditt arbete underlättas av den här tekniken? Det här kanske personen inte vill svara på, och det behöver de förstås inte, men det är såklart en relevant fråga för ditt eget avgörande beslut om godkännande. Om de efterfrågar något som de själva inte ser som ett stöd så är det förstås talande.
Sparas en ljudfil av samtalet? Var och hur länge? Det här hjälper dig förstå om din egen röst sparas på en dator någonstans som är nåbar via internet. Det kan vara känsligt om filen kan nås av obehöriga, för din röst är biometrisk information som idag går att kopiera.
Om informationen transkriberas, var sparas textfilen, hur länge och vem har tillgång till den? Det här vill du förstås veta för att förstå hur säker hanteringen av ditt privata samtal känns. Om det här inte kan uttryckas på ett enkelt sätt så att du förstår det, inklusive riskerna, så handlar det såklart inte om ett informerat samtycke.
Vem verifierar och garanterar att en transkribering är en korrekt återgivning av samtalet? Det här är viktigt för att förstå vem som kan hållas ansvarig när det blir fel.
Om informationen sammanfattas med ett automatiserat verktyg, vem verifierar och garanterar att sammanfattningen ger en rättvis bild av samtalet? Även detta är viktigt för att förstå vem som kan hållas ansvarig när det blir fel.
Vart kan jag som patient höra av mig för att rätta felaktig information? Om jag till exempel via journalen i 1177 ser att något blivit fel, hur går jag tillväga för att begära en rättelse? Frågan är värd att ställa även om du fått svar i andra sammanhang, eftersom det får vårdpersonalen att reflektera över teknikens konsekvenser. Och för att jämföra när du får olika svar.
Kan det garanteras att inspelningen/transkriberingen inte används för andra syften än det uttalade? Var säker på att du förstår vad ditt inspelade samtal kommer användas till och om det finns andra tänkta sätt att använda informationen, till exempel för statistik eller i utbildning.
I vilka skeden kan jag ta tillbaka mitt samtycke, hur gör jag och vad innebär det? Du bör förstås alltid kunna dra tillbaka ditt samtycke i precis alla lägen och när som helst. Kan läkaren direkt radera det som redan transkriberats eller hur går det till?
Får jag läsa igenom transkriberingen och därefter dra tillbaka mitt samtycke om jag inte godkänner den?

Ja, ditt vårdbesök kommer ta mycket längre tid. Men det var inte du som valde tekniken och du har såklart rätt att veta. Ja, du bör faktiskt förstå för att kunna ta ett informerat beslut.

Att säga nej går förstås snabbare. Och jag tror det är något fler av oss måste börja öva på. Till exempel: "Jag vill pausa inspelningen nu." och "Jag vill återkalla mitt samtycke."

Tipsa Axbom om skadlig teknik. Om datasystem, digitalisering eller automatisering påverkar dig eller andra på dåliga sätt, hör av dig. Det kan handla om en arbetsplats, kontakt med myndigheter eller utmaningar i vardagen. Du kan vara anonym. Du kan också välja att svara på nyhetsbrevet.

Tipsa Axbom