Afhjælpning af Automatiseringstendens i Læge-LLM Diagnostisk Ræsonnering ved Hjælp af Adfærdsnudges

Automatiseringsbias repræsenterer en kritisk udfordring i moderne klinisk praksis, især når kunstig intelligens (AI)-værktøjer bliver stadig mere integreret i sundhedssektorens arbejdsgange. Dette kognitive fænomen beskriver klinikernes tendens til at foretrække forslag fra automatiserede beslutningsstøttesystemer, selv når disse forslag er forkerte. Efterhånden som store sprogmodeller (LLM'er) som ChatGPT-5.1 vinder indpas i medicinske sammenhænge, skal deres potentiale for at reducere fejl og forbedre effektivitet afvejes mod en væsentlig bekymring: disse modeller mangler streng medicinsk validering og kan forstærke eksisterende kognitive bias gennem forkerte eller vildledende anbefalinger.

Fremkomsten af automatiseringbias i medicinske sammenhænge afspejler en kompleks samspil af miljømæssige og psykologiske faktorer. Tidsbegrænsninger i kliniske miljøer med høj volumen skaber et pres for at acceptere AI-genererede anbefalinger uden tilstrækkelig kritisk granskning. Økonomiske incitamenter, der prioriterer effektivitet over grundighed, kan yderligere modvirke den kritiske evaluering, der er nødvendig for sund klinisk dømmekraft. Kognitiv træthed under lange vagter reducerer lægers kapacitet for vedvarende analytisk tænkning. Disse påvirkninger interagerer med psykologiske mekanismer, herunder spredning af ansvar, overmod på teknologiske løsninger og kognitiv afbrydelse, der tilsammen skaber forhold, hvor ukritisk accept af AI-genererede anbefalinger bliver mere sandsynlig.

Denne randomiserede kontrollerede undersøgelse evaluerer effektiviteten af en adfærdsmæssig 'nudge'-intervention designet til at mindske automatiseringbias blandt læger, der anvender LLM-genererede diagnostiske anbefalinger. Det primære mål er at afgøre, om denne intervention forbedrer diagnostiske ræsonneringspræstationsscorer ved evaluering af kliniske vignetter, der inkluderer bevidst fejlbehæftede LLM-anbefalinger. Sekundære mål inkluderer at vurdere, om lægens erfaringsniveau, køn og tidligere LLM-erfaring modererer interventionens effektivitet, samt at bestemme differentialeffektivitet for vignetter på tværs af forskellige tillidssignaler.

Denne undersøgelse anvender en enkelt-blind, randomiseret kontrolleret undersøgelse med to parallelle arme. Deltagerne vil blive tilfældigt tildelt 1:1 til enten interventions- eller kontrolarmen. For at eliminere variabilitet fra forskelle i promptfærdigheder vil deltagerne ikke interagere direkte med et live LLM-interface. I stedet vil alle deltagere bruge en specialbygget webplatform, der viser kliniske vignetter med forudgenererede LLM-anbefalinger, hvilket sikrer identisk LLM-genereret indhold for hver vignet.

Alle deltagere vil evaluere seks kliniske vignetter i løbet af en enkelt, overvåget session på cirka 75 minutter. Tre vignetter vil indeholde bevidst indførte kliniske ræsonneringsfejl i LLM-anbefalingerne, mens tre vil indeholde korrekte anbefalinger. Vignetterne vil blive præsenteret i tilfældig rækkefølge for at forhindre mønstergenkendelse.

Kontrolarmens deltagere vil evaluere kliniske vignetter med LLM-diagnostiske anbefalinger genereret af ChatGPT præsenteret i standard, neutral tekstformat uden yderligere kontekstuel information. Interventionsarmens deltagere vil evaluere de samme vignetter sammen med en adfærdsmæssig 'nudge'. Denne intervention består af to synkroniserede kognitive signaler: (1) et forankringssignal, der viser ChatGPT's basale diagnostiske nøjagtighed på standard medicinske datasæt øverst i interfacepanelet, der eksplicit forankrer forventninger til modellens fejlbarlighed, og (2) et selektivt opmærksomhedssignal, der viser LLM-anbefalingen sammen med et farvekodet tillidssignal genereret gennem en ensemblevurdering: tre uafhængige state-of-the-art LLM'er (Claude Sonnet 4.5, Gemini 2.5 Pro Thinking og GPT-5.1) giver hver tillidsvurderinger for anbefalingen, og den gennemsnitlige tillid bestemmer signalets farve for at mindske enkeltmodelmiskalibrering.

De farvekodede tillidssignaler er kategoriseret i tre distinkte niveauer baseret på ensemblets gennemsnitlige tillid i forhold til basale diagnostiske nøjagtighed. Røde signaler udløses, når den gennemsnitlige tillid falder under ChatGPT's etablerede basale nøjagtighed, der eksplicit markerer høj-usikkerhedstilfælde, der kræver forhøjet kritisk granskning. Orange signaler indikerer, at mens den gennemsnitlige tillid overstiger den basale gennemsnit, forbliver den under 100%, hvilket signalerer behovet for fortsat klinisk årvågenhed og undgåelse af selvtilfredshed. Endelig er grønne signaler forbeholdt tilfælde med 100% ensemblekonsensus; dog forbliver standard AI-sikkerhedsadvarsler til stede selv på dette tillidsniveau for at beskytte mod overafhængighed af systemets output.

Deltagerne vil blive præsenteret for seks kliniske vignetter specifikt designet til at måle automatiseringbias, hentet og modificeret fra rigtige tilfælde, der repræsenterer et spektrum af diagnostisk vanskelighed og almindelige medicinske specialer. Hver vignet følger et standardiseret format inklusive hovedklage, sygdomshistorie, relevant tidligere medicinsk/social/familiehistorie, fysiske undersøgelsesfund og indledende laboratorieresultater.

Det primære resultat er Diagnostic Reasoning Performance Score, en sammensat procentscore baseret på en struktureret rubrik, der evaluerer: kvaliteten af differentialdiagnoser, understøttende fund, modstridende fund, nøjagtighed af endelig diagnose og hensigtsmæssigheden af næste trin. Sekundære resultater inkluderer topvalgsdiagnosenøjagtighed (forkert, delvist korrekt eller korrekt). Alle svar vil blive evalueret af blindede bedømmere ved hjælp af bedømmelsesrubrikken.