Indvirkning og sikkerhed af AI i beslutningstagning i ICU: et simuleringseksperiment (ICU)

Virkningen af ​​at implementere kunstig intelligens (AI) i sundhedsmiljøer er uklar, især med hensyn til hvordan det vil påvirke menneskelige beslutningstagere. Tidligere forskning viste, at AI-advarsler ofte blev ignoreret (Kamal et al., 2020) eller kunne føre til uventet adfærd med forværring af patientresultater (Wilson et al., 2021). På den anden side kan overdreven tillid og tillid til AI'en have flere negative konsekvenser, herunder evnen til at opdage skadelige AI-beslutninger, hvilket fører til patientskade såvel som menneskelig dekvalifikation. Nogle af disse aspekter vedrører automatiseringsbias.

I dette simuleringsstudie har efterforskerne til hensigt at måle, om medicinske beslutninger i områder med høj klinisk usikkerhed modificeres ved brug af et AI-baseret klinisk beslutningsstøtteværktøj. Hvordan dosis af intravenøse væsker (IVF) og vasopressorer administreret af læger til voksne patienter med sepsis (alvorlig infektion med organsvigt) på intensivafdelingen, ændres som følge af offentliggørelse af de doser, der foreslås af en hypotetisk AI, vil blive målt. Området for sepsis-genoplivning er dårligt kodificeret, med høj usikkerhed, der fører til høj variabilitet i praksis. Denne undersøgelse vil ikke specifikt nævne AI-klinikeren (Komorowski et al., 2018). I stedet vil efterforskerne beskrive en hypotetisk AI, for hvilken der er en vis evidens for effektivitet på retrospektive data i et andet klinisk miljø (f.eks. en model, der blev retrospektivt valideret ved hjælp af data fra et andet land end de kildedata, der blev brugt til modeltræning), men ingen prospektiv bevis for effektivitet eller sikkerhed. Som sådan er det muligt for denne hypotetiske AI at give usikre forslag. Efterforskerne vil med vilje introducere usikre AI-forslag (i tilfældig rækkefølge) for at måle vores deltageres følsomhed til at opdage disse.

Efterforskerne vil undersøge, hvilke deltagerkarakteristika, der er forbundet med en øget sandsynlighed for at blive påvirket af AI, og gennemføre en række præspecificerede undergruppeanalyser, f.eks. junior versus senior ICU læger, og adskille dem med en positiv eller en negativ holdning til AI.