Retfærdig behandling med kunstig intelligens

I dag bliver kunstig intelligens (AI) og maskinlæring i stigende grad brugt i vores sundhedssystem. Læger og radiologer bruger f.eks. algoritmer som støtte til at tage beslutninger om, hvilken diagnose patienten kan have. Problemet er blot, at algoritmer kan være lige så forudindtagede og fordomsfulde som mennesker, fordi de er baseret på data fra tidligere observationer. Hvis en algoritme f.eks. har set flere eksempler på lungesygdomme hos mænd end hos kvinder, vil den være bedre trænet til at opdage lungesygdomme hos mænd. 

Sundhedsdata har ofte en bias, en misrepræsentation af forskellige demografiske befolkningsgrupper, der ender med at påvirke, hvilke beslutninger en sundhedsalgoritme er i stand til at tage. Det kan føre til underdiagnosticering af nogle befolkningsgrupper, fordi der eksisterer flest data fra en bestemt gruppe. 

”Hvis algoritmen bliver trænet af data, der afspejler fordomme og stereotyper i samfundet, vil der også være skævheder eller bias i den kunstige intelligens, der reproducerer dataene – og det er ikke nødvendigvis fair,” siger Aasa Feragen, der er professor på DTU Compute, og fortsætter: 

”Idéen om, at kunstig intelligens skal tage vigtige beslutninger om min sundhedstilstand, er skræmmende, når man ved, at AI kan være lige så diskriminerende som de værste racister eller sexister,” siger hun. 

Hvad sikrer man fair behandling?

Aasa Feragen er leder af et forskningsprojekt, som i de kommende tre år skal undersøge bias og fairness i kunstig intelligens inden for medicinske anvendelser. Målet er at udvikle retfærdige algoritmer, der skal være med til at give en fair behandling til alle i sundhedsvæsenet. I projektet deltager forskere fra Københavns Universitet, Rigshospitalet og det schweiziske tekniske universitet ETH.

I projektet vil forskerne f.eks. analysere demografiske data hos alle de danskere, der har fået en depressionsdiagnose i løbet af de seneste år. Forskerne vil teste en hypotese om, at der er skævheder i dataene – f.eks. i hvor tit danskerne bliver diagnosticeret, og hvilken type behandling de får, baseret på køn, alder, geografi og indkomst. Dernæst undersøger forskerne sammen med etiker og lektor Sune Hannibal Holm fra KU, hvordan man kan udvikle en fair sundhedsalgoritme. 

Der skal bl.a. diskuteres spørgsmål som ’hvornår er en beslutning diskriminerende?’, ’kan man udvikle metoder, der kan finde og fjerne diskriminerende bias i algoritmer, inden de bliver taget i brug?’, og ’hvordan kan man definere, hvilke beslutninger der er fair inden for medicin?’

”Man kunne argumentere for, at fordi AI-algoritmens skæve forudsigelser blot er et resultat af de skæve beslutninger, der bliver taget i vores nuværende sundhedssystem, så vil brugen af AI i sundhedsvæsenet ikke medføre nye problemer,” siger Aasa Feragen.

Men ifølge Aasa Feragen handler det om at udnytte, at AI har potentiale til at opdage disse bias, inden værktøjet har taget en eneste beslutning. Dermed kan man tage det bedste fra AI og finde nye veje til at minimere bias gennem transparente og sikre løsninger. 

Forskningsprojektet ’Bias and fairness in medicine’ modtager støtte fra Danmarks Frie Forskningsfond.