Menneskelig algoritme-interaktioner til diagnose af akut respiratorisk svigt

Kunstig intelligens (AI) viser lovende med hensyn til at identificere abnormiteter i kliniske billeder. Imidlertid kan systematisk skæve AI-modeller, hvor en model laver unøjagtige forudsigelser for hele underpopulationer, føre til fejl og potentielle skader. Når der vises forkerte forudsigelser fra en AI-model, kan klinikerens diagnostiske nøjagtighed blive skadet. Denne undersøgelse har til formål at studere effektiviteten af ​​at give klinikere billedbaserede AI-modelforklaringer, når de gives AI-modelforudsigelser for at hjælpe klinikere med bedre at forstå logikken i en AI-models forudsigelse. Det vil evaluere, om det at give klinikere AI-modelforklaringer kan forbedre diagnostisk nøjagtighed og hjælpe klinikere med at fange, når modeller træffer forkerte beslutninger. Som en testcase vil undersøgelsen fokusere på diagnosticering af akut respirationssvigt, fordi bestemmelse af de underliggende årsager til akut respirationssvigt er kritisk vigtig for at vejlede behandlingsbeslutninger, men kan være klinisk udfordrende.

For at afgøre, om levering af AI-forklaringer kan forbedre klinikerens diagnostiske nøjagtighed og afhjælpe den potentielle virkning af at vise klinikere en systematisk forudindtaget AI-model, vil der blive udført en randomiseret klinisk vignetundersøgelse. Under undersøgelsen vil deltagerne i undersøgelsen blive vist kliniske vignetter af patienter, der er indlagt på hospitalet med akut respirationssvigt, inklusive patientens symptomer, fysisk undersøgelse, laboratorieresultater og røntgen af ​​thorax. Deltagerne i undersøgelsen vil derefter blive bedt om at vurdere sandsynligheden for, at hjertesvigt, lungebetændelse og/eller kronisk obstruktiv lungesygdom (KOL) er den underliggende diagnose. Under specifikke vignetter i undersøgelsen vil deltagerne også blive vist standard eller systematisk forudindtaget AI-modeller, der giver et skøn over sandsynligheden for, at hjertesvigt, lungebetændelse og/eller KOL er den underliggende diagnose. Klinikere vil blive randomiseret til at se AI-forudsigelser alene eller AI-forudsigelser med forklaringer, når de vises AI-modeller. Dette undersøgelsesdesign vil give mulighed for at teste hypotesen om, at systematisk skæve modeller ville skade klinikerens diagnostiske nøjagtighed, men almindeligt anvendte billedbaserede forklaringer vil hjælpe klinikere med delvist at genvinde deres præstationer.