Overlege og ekspert på kunstig intelligens (KI) – gjennom den unike kombinasjonen beveger han seg i to forskjellige verdener som nylig har åpnet øynene deres for hverandre. Når helsevesenet står i sentrum for diskusjonen om regulering av KI, hvem er vel bedre å snakke med om hvordan sektoren kan forholde seg til de nye mulighetene enn Markus Lingman?
Når Markus Lingman snakker om KI, får han det til å høres enkelt ut, eller i det minste åpenbart. På spørsmål om hva er KI egentlig? svarer han: flerdimensjonale ikke-lineære matematiske modeller. Intet mer, intet mindre. Vi er enige om at konseptet KI er komplisert i seg selv og at det sannsynligvis er best å ikke fordype seg i definisjoner og tekniske spesifikasjoner. Det er mye som kalles KI i dag som ikke er KI, men som Markus sier:
Vi må kalle det noe, for i det hele tatt å kunne snakke om temaet.
Kombinerer teknologi og medisin
Markus har blitt en talsmann, eller rettere sagt en oversetter, av KI i helsevesenet. Med sin unike kombinasjon av dyp forståelse innen både datavitenskap og medisin, bygger Markus broer mellom feltene, på en måte som få kan. Veien til prisen «Årets KI-svenske» som Markus mottok i fjor begynte med en sivilingeniørutdanning og fortsatte med spesialistutdanning innen hjertepleie og forskning ved Sahlgrenska akademiet. I dag jobber han som strateg i Region Halland og er dypt engasjert i Leap for Life, som er Hallands fellessatsing på informasjonsdrevet omsorg.
Forklarlig KI er neste steg
Markus jobber for økt forståelse og bruk av KI i helsetjenesten og en av tingene han er mest interessert i akkurat nå er «explainable AI» – neste generasjons KI, hvor systemet kan forklare et menneske hvordan det kom frem til svaret. Det er et ganske stort skritt fra den "svarte boksen" vi er vant til, der selv utviklerne ikke kan svare på hvorfor en modell kom til en bestemt avgjørelse.
Bygg tillit til teknologien
Det har blitt klart at verktøy basert på KI-modeller ikke blir evaluert på lik linje som annet medisinsk utstyr. Det er større etterspørsel fra kjøpere for å vite hvordan det fungerer. Men Markus tror ikke at veien videre for KI i helsevesenet er at helsepersonell og leger nøyaktig forstår hvordan det fungerer (det er også helt umulig). Uten å bygge tillit rundt teknologien. Noe som er nettopp hensikten med "explainable AI".Åpenheten rundt teknologien er nødvendig, enda mer av menneskelige grunner enn av regulatoriske. De som skal bruke teknologien må stole nok på verktøyene til å bruke dem. I helsevesenet gjør vi allerede i dag mange ting som vi ikke forstår hvordan de fungerer. Vi vet hvordan man bruker en magnetisk resonansundersøkelse og hvilke resultater den gir, men få vet nøyaktig hvordan den fungerer. Når vi godkjenner medisiner, er vi ikke pålagt å kunne beskrive funksjonen på molekylært nivå.
Hvordan skaper du tillit til KI i helsetjensten i dag?
Å kunne forklare på et overordnet nivå hvordan modellene fungerer er bra, og å forstå at helsetjenesten er fylt med humanister og at legene er personlig ansvarlige for anbefalingene de gir. Men også at det er kontrollinstanser som står inne for kvaliteten.
Ulike verdener
For å forstå KI i helsetjenesten, må du forstå helsetjenesten og hvor det kommer fra, sier Markus. Det er mange sannheter i medisinsk forskning, helsetjenester og medisinsk profesjon som helt eller delvis kolliderer med datavitenskap. Mest åpenbart er det humanistiske perspektivet, men også når det gjelder synet på forskning og statistikk er skolene forskjellige. Der helsevesenet er basert på hypoteser i forskningsmetoden, er datavitenskap basert på kommenterte data.
Heletjenester baseres på klassisk statistikk som matematisk sett er en forenkling av virkeligheten. Velger du det, bestemmer du deg samtidig for ikke å beskrive virkeligheten så kompleks som den er. KI, på den annen side, kan ta hensyn til flere aspekter, men til prisen av mindre forståelighet.
1072 variabler er nærmere virkeligheten
Ved Hallands sykehus bygget Markus og teamet hans en modell der de så på risikoen for reinnleggelse av pasienter som hadde vært hos dem. De legger så inn i utgangspunktet hele databasen med titusenvis av variabler og lar deretter modellen koke ned antallet variabler til et optimalt nivå. Det landet likevel på 1072 variabler per pasient som tilførte noe til modellens ytelse.
Jeg tror det viktige budskapet her er at det er slik virkeligheten ser ut. For hvis du bare legger inn 12 variabler som du synes er viktige, gjør du det for at det skal bli forståelig, ikke fordi det ligner virkeligheten.
Mens utforskende analyser ikke er nok i medisinsk forskning, er KI-modellene ofte basert på at modellen selv finner assosiasjonene. Målet er å forstå en mer kompleks virkelighet og det er her Markus tror at kunstig intelligens vil kunne endre helsevesenet fundamentalt og hjelpe oss å oppnå noe virkelig verdifullt på lang sikt: presisjonshelsetjeneste.
Evnen til å håndtere det uhåndterbare
Kunstig intelligens lar oss ta hensyn til det som tidligere var umulig å ta hensyn til i stor skala. Teknologien kan behandle enorme mengder informasjon og sannsynligheter, og se mønstre – for hvert enkelt individ.
KI vil ha en viktig rolle i å beregne risiko og sannsynligheter for deg som individ og ikke som en del av en gruppe. Tidligere har vi resonnert med at dersom du har hjertesvikt, bør du ha hjertesviktmedisin, som vi gir til alle som har hjertesvikt, fordi vi har sett i studier at den gruppen klarer seg bra. Nå går vi mot: du har hjertesvikt av akkurat denne grunnen og sammen med dine andre tilstander er det nettopp denne behandlingen du bør ha for størst sjanse til å føle deg bedre eller leve lenger.
Håpet er at maskinene skal hjelpe oss å oppnå en mer human omsorg. For 100 år siden kjente legen alle pasientene sine. Så våget vi oss inn i «gruppehelsetjeneste», basert på randomiserte kontrollerte studier. Vellykket og legitim. Men nå er vi enda flere som helsevesenet må ta seg av. Kanskje har vi til tross for det sjansen til, ved hjelp av KI, å gå tilbake til en mer individuelt tilpasset helsetjeneste.
Er menneskelig bedre enn høy ytelse?
Spørsmålet er bare hvor gode verktøyene basert på KI må være for at helsetjenstenskal tørre å bruke det i sin fulle kraft? I påvente av nye forskrifter er helautomatiske medisinske beslutninger ikke lovlige i Sverige, og verktøy basert på KI-modeller brukes kun som beslutningsstøtte for helsepersonell.
Det er mange studier som sammenligner en KI-modell med nøyaktigheten til en kliniker, og viser at den er omtrent like god eller litt bedre. Er det nok?
Markus lar spørsmålet henge i lufta.
Noen ganger kan det være nødvendig å tilføre menneskelig kunnskap til KI-modeller for å kompensere for visse svakheter, for eksempel nye forhold. Det kalles hybridmodeller og kan gjøre ytelsen til modellen dårligere. Noen ganger er fordelene ved menneskelig involvering små og ytelsestapet stort. Det åpner for en interessant diskusjon om hva som er viktigst; menneskelig eller høy ytelse?
Da kan vi havne i en situasjon der det er ulovlig å bruke automatiserte beslutninger, men uetisk å la være.
Retningslinjer i dag, godkjenning i fremtiden?
Samfunnsdiskusjonen om KI i helsevesenet fortsetter og EUs forslag til forordning om harmoniserte regler for kunstig intelligens [1] er ute på høring. I mellomtiden har WHO kommet med sin "Ethics and governance of artificial intelligence for health" [2] som kan veilede kjøpere i helsevesenet mot mest mulig sikre beslutninger for pasientene.
Et siste spørsmål Markus; hvordan tror du helsetjenesten vil forholde seg til teknologi basert på KI i fremtiden?
Om 10 år tror jeg ikke folk vil tro at det er KI-modeller bak beslutningsstøtten i det hele tatt. Det vil sannsynligvis være et kvalitetsstempel som forteller deg hvor god beslutningsstøtten er og så nøyer du deg med det, som med ethvert verktøy.
