Ekspert: AI må ikke bestemme over liv og død i sundhedssektoren

Kunstig intelligens bliver allerede i dag benyttet i sundhedsvæsenet. Blandt andet til patientpleje, databehandling, opdagelsen af nye lægemidler og metoder og til at effektivisere driften og forvaltningen af sundhedssystemer.

Generelt er brugen af kunstig intelligens steget støt inden for sundhedssektoren. Selvom der er mange positive forhold ved det, er udviklingen samtidig bekymrende, hvis den ikke kontrolleres. Det mener Anthony Vetro, der er vicepræsident og direktør ved Mitsubishi Electric Research Laboratories, hvor han leder udviklingen af AI-teknologier til en bred vifte business-områder, herunder sundhed, robotter og offentlig infrastruktur.

AI er blevet vigtig i sundhedssektoren

I et indlæg på MedCity News slår Anthony Vetro fast, at AI-teknologien har gjort bemærkelsesværdige fremskridt i det sidste årti – også inden for sundhedssektoren.

Han understreger dog, at man skal være meget varsom, når en maskine er placeret til at træffe beslutninger om liv og død.

Mangler evnen til at forklare sine valg

Maskiner kan have potentielt alvorlige fejl i deres vurderinger, og afhængigt af de anvendte AI-værktøjer kan de desuden mangle evnen til at forklare årsagerne til en bestemt beslutning på en måde, som patienter og læger kan stole på.

Fokus bør derfor være på AI, der kan hjælpe med menneskelig beslutningstagning, ikke som erstatning for den, i sundhedssektoren.

Bias er blevet nævnt i vid udstrækning som et af de største problemer i AI-baserede beslutningstagningssystemer. Derudover fremhæver Vetro også problemerne med datakvalitet som et alvorligt problem.

Se også: Sådan ser fremtiden med AI ud

Skal AI afgøre, hvilke patienter der skal have behandling?

Han mener også, at sundhedssektoren skal være varsom med at lade AI beslutte, hvilke patienter der kan få en behandling, der er begrænset udbud af, eller hvem der skal sendes til intensivafdelingen før andre.

Vetro slår på tromme for, at der bliver udarbejdet nogle fælles standarder som en metode til at anvende AI ansvarligt, effektivt og gennemsigtigt.

International Organization for Standardization (ISO) har udarbejdet adskillige standarder for ledelsessystemer, som fastsætter krav til organisationer, der skal hjælpe dem med at styre deres politikker og processer med henblik på at nå bestemte mål. Det samme bør gøres inden for brugen af AI.

Stor mangel på læger og sygeplejersker i fremtiden

Selvom Anthony Vetro i dag mener, at AI skal hjælpe læger med at tage de rigtige beslutninger og ikke selv må overlades så vigtig en opgave, kan mangel på læger og sygeplejersker gøre os mere afhængige af AI.

Alene i USA vil der ifølge brancheorganisationen American Hospital Association være en mangel på 124 000 læger inden 2033, og der skal ansættes mindst 200 000 sygeplejersker om året for at imødekomme den øgede efterspørgsel.

Ifølge seneste analyser fra Praktiserende Lægers Organisation (PLO) står knap 154 000 danskere uden egen læge i dag.

Se også: Nyheder om kunstig intelligens