Menselijke algoritme-interacties voor de diagnose van acuut ademhalingsfalen

Kunstmatige intelligentie (AI) blijkt veelbelovend bij het identificeren van afwijkingen in klinische beelden. Systematisch vertekende AI-modellen, waarbij een model onnauwkeurige voorspellingen doet voor hele subpopulaties, kunnen echter tot fouten en potentiële schade leiden. Wanneer onjuiste voorspellingen van een AI-model worden weergegeven, kan de diagnostische nauwkeurigheid van de arts worden geschaad. Deze studie heeft tot doel de effectiviteit te bestuderen van het bieden van op afbeeldingen gebaseerde AI-modelverklaringen aan artsen wanneer AI-modelvoorspellingen worden verstrekt om artsen te helpen de logica van de voorspelling van een AI-model beter te begrijpen. Er zal worden geëvalueerd of het verstrekken van uitleg aan clinici aan AI-modellen de diagnostische nauwkeurigheid kan verbeteren en artsen kan helpen bij het signaleren wanneer modellen onjuiste beslissingen nemen. Als testcase zal het onderzoek zich richten op de diagnose van acuut respiratoir falen, omdat het bepalen van de onderliggende oorzaken van acuut respiratoir falen van cruciaal belang is voor het begeleiden van behandelbeslissingen, maar klinisch uitdagend kan zijn.

Om te bepalen of het geven van AI-verklaringen de diagnostische nauwkeurigheid van artsen kan verbeteren en de potentiële impact kan verminderen van het tonen van een systematisch bevooroordeeld AI-model aan artsen, zal een gerandomiseerd klinisch vignetonderzoek worden uitgevoerd. Tijdens het onderzoek krijgen deelnemers aan de studie klinische vignetten te zien van patiënten die in het ziekenhuis zijn opgenomen met acuut ademhalingsfalen, inclusief de symptomen van de patiënt, lichamelijk onderzoek, laboratoriumresultaten en röntgenfoto's van de borstkas. Deelnemers aan het onderzoek zullen vervolgens worden gevraagd om de waarschijnlijkheid te beoordelen dat hartfalen, longontsteking en/of chronische obstructieve longziekte (COPD) de onderliggende diagnose is. Tijdens specifieke vignetten in het onderzoek krijgen deelnemers ook standaard of systematisch bevooroordeelde AI-modellen te zien die een schatting geven van de waarschijnlijkheid dat hartfalen, longontsteking en/of COPD de onderliggende diagnose is. Artsen zullen gerandomiseerd worden om alleen AI-voorspellingen te zien of AI-voorspellingen met uitleg wanneer ze AI-modellen laten zien. Dit onderzoeksontwerp zal het mogelijk maken om de hypothese te testen dat systematisch vertekende modellen de diagnostische nauwkeurigheid van artsen zouden schaden, maar dat veelgebruikte, op beelden gebaseerde verklaringen artsen zouden helpen hun prestaties gedeeltelijk te herstellen.