21 OPTIKEREN NR 2, 2023 R KUNSTIG INTELLIGENS KAN TRUE MINORITETER Bruken av kunstig intelligens (AI) i helsesektoren øker raskt. På flere områder har AI vist seg å ha tydelige fordeler og forbedringer. Men for utsatte grupper kan den utgjøre en ekstra trussel. TEKST: DAG ØYVIND OLSEN Det skriver et panel eksperter innen helselovgivning fra ulike europeiske universiteter i en nylig publisert rapport. Her lister de opp en rekke punkter som EU og helselovgivere nå bør være oppmerksomme på etter hvert som AI får fotfeste innen en rekke ulike tester og diagnostiseringer av sykdommer og tilstander både fysisk og mentalt. Spesielt innen diagnostisering av noen typer kreft og kardiovaskulære sykdommer har bruken av AI vist seg å ha stor nytteverdi, men også for mange andre diagnoser. Med god og riktig utvikling og bruk kan AI bidra til å redde liv. MANGLER RETTSVERN Fokus i artikkelen er imidlertid rettsvern for ulike grupper av befolkningen, som kan bli skadelidende hvis ikke dagens lovverk endres. Det er nemlig en potensiell risiko for at en pasients fundamentale rettigheter kan trues dersom det ikke finnes et rettslig rammeverk som gir spesielt vern til utsatte grupper i befolkningen. Dette kan avspeiles i alder, kulturell identitet, etnisitet, seksuell orientering, mental helse og flere andre faktoret. En rekke av EUs regelverk må tilpasses en ny tid, mener forfatterne. Når AI benyttes i helsevesenet trengs det spesiell oppmerksomhet fordi menneskers helse står på spill og enkeltindivider kan være i en vanskelig situasjon når de trenger helsehjelp. PROFITTHENSYN Ekspertene lister opp en rekke faktorer der man skal være spesielt oppmerksomme: Det er knyttet bekymring til at AIsystemer kan ha svakheter hvis de er matet med data av for dårlig kvalitet. AI er i stadig større grad drevet fremover at private, profittdrevne selskaper. Det kan føre til at profitt blir viktigere enn pasientens behov. Mulig partiskhet i opplæringsdata innen AI kan utgjøre en risiko for helse og fundamentale rettigheter, som kan føre til diskriminering. I verste fall kan det føre til både skade og død. IKKE FOR ALLE AI i helsetjenesten har et enormt potensial for å være livreddende innovasjon, men kan også utgjøre en trussel for noen grupper siden de kan være matet med data som kan ramme minoriteter, eldre eller andre, fordi de ikke utgjør «normalen». Et eksempel på dette er at risikoen for å avdekke hudkreft er mindre med AI for mørkhudede personer, fordi modellen som brukes er laget basert på data for mennesker med lys hud. Ved AI mangler ofte pasienten innsyn i hvordan man har kommet frem til en diagnose. Det er også slik at data fra minoriteter som bruker helsetjenesten lite, ofte ikke inkluderes i utviklingen av slike verktøy. Ekspertgruppen advarer om at AI kan bli et verktøy som gir helsegevinst til deler av befolkningen, og ikke alle. Og da er det de som allerede stiller svakest, som rammes hardest. £ (Kilde: EU Health Policy Plattform Thematic Network 2022-23: Navigating Health Inequalities in the EU through Artificial Intelligence, published by Brunel University London og Health Action International) ©Colourbox
RkJQdWJsaXNoZXIy MTQ3Mzgy