行動的ナッジを用いた医師-LLM診断推論における自動化バイアスの緩和

自動化バイアスは、現代の臨床実践における重要な課題であり、特に人工知能（AI）ツールが医療ワークフローにますます組み込まれる中で顕著です。 この認知現象は、臨床医が自動化された意思決定システムからの提案を、たとえそれらの提案が誤っていても優先する傾向を説明します。 ChatGPT-5.1などの大規模言語モデル（LLM）が医療現場で普及するにつれ、エラーを減らし効率を向上させる可能性は、重要な懸念と比較衡量する必要があります：これらのモデルは厳格な医学的検証を欠いており、誤ったまたは誤解を招く推奨を通じて既存の認知バイアスを増幅する可能性があります。

医療文脈における自動化バイアスの出現は、環境的要因と心理的要因の複雑な相互作用を反映しています。 高負荷の臨床現場における時間的制約は、適切な精査なしにAI生成の推奨を受け入れる圧力を生み出します。 徹底性よりも効率性を優先する経済的インセンティブは、適切な臨床判断に必要な批判的評価をさらに阻害する可能性があります。 長時間勤務中の認知的疲労は、医師の持続的分析的思考能力を低下させます。 これらの圧力は、責任の分散、技術的解決策への過信、認知的負荷軽減などの心理的メカニズムと相互作用し、AI生成の推奨を無批判に受け入れる可能性が高まる条件を集合的に生み出します。

このランダム化比較試験は、LLM生成の診断推奨を利用する医師の間で自動化バイアスを緩和するように設計された行動ナッジ介入の有効性を評価します。 主目的は、意図的に欠陥のあるLLM推奨を含む臨床ビネットを評価する際に、この介入が診断推論パフォーマンススコアを改善するかどうかを判断することです。 副次的目的には、医師の経験レベル、性別、および以前のLLM経験が介入の有効性を調整するかどうかの評価、異なる信頼シグナルにわたるビネットに対する差別的効果の決定が含まれます。

この研究は、2つの並行群を用いた単盲検ランダム化比較試験を採用します。 参加者は、介入群または対照群のいずれかに1:1でランダムに割り当てられます。 プロンプトスキルの違いによる変動を排除するため、参加者はライブLLMインターフェースと直接対話しません。 代わりに、すべての参加者は、事前生成されたLLM推奨付きの臨床ビネットを表示するカスタム構築のウェブプラットフォームを使用し、各ビネットに対して同一のLLM生成コンテンツを保証します。

すべての参加者は、約75分間の単一の監督付きセッション中に6つの臨床ビネットを評価します。 3つのビネットにはLLM推奨に意図的に導入された臨床推論の欠陥が含まれ、3つには正しい推奨が含まれます。 ビネットはパターン検出を防ぐためにランダムな順序で提示されます。

対照群の参加者は、追加の文脈情報なしで標準的な中立テキスト形式で提示されたChatGPTによって生成されたLLM診断推奨付きの臨床ビネットを評価します。 介入群の参加者は、行動ナッジとともに同じビネットを評価します。 この介入は、2つの同期化された認知キューで構成されます：（1）インターフェースパネルの上部にChatGPTの標準医療データセットにおけるベースライン診断精度を表示するアンカリングキューで、モデルの誤りやすさに対する期待を明示的に固定し、（2）LLM推奨とともに、アンサンブル評価を通じて生成された色分けされた信頼シグナルを表示する選択的注意キュー：3つの独立した最先端LLM（Claude Sonnet 4.5、Gemini 2.5 Pro Thinking、およびGPT-5.1）がそれぞれ推奨に対する信頼度評価を提供し、平均信頼度がシングルモデルの誤較正を緩和するために信号色を決定します。

色分けされた信頼シグナルは、ベースライン診断精度に対するアンサンブルの平均信頼度に基づいて、3つの異なるレベルに分類されます。 平均信頼度がChatGPTの確立されたベースライン精度を下回るときに赤信号が発動され、高度な批判的精査を要求する高不確実性ケースを明示的にフラグ付けします。 オレンジ信号は、平均信頼度がベースライン平均を超えているが100％未満であることを示し、継続的な臨床的警戒と慢心の回避の必要性を信号します。 最後に、緑信号は100％アンサンブル合意のインスタンスに限定されます；ただし、このレベルの信頼度であっても、システムの出力への過度の依存を防ぐために標準のAI安全警告が残ります。

参加者には、自動化バイアスを測定するために特別に設計された6つの臨床ビネットが提示されます。これらは、診断難易度の範囲と一般的な医学専門分野を代表する実際の症例から収集および修正されたものです。 各ビネットは、主訴、現病歴、関連する既往歴/社会的/家族歴、身体所見、および初期検査結果を含む標準化されたフォーマットに従います。

主アウトカムは、診断推論パフォーマンススコアです。これは、鑑別診断の質、支持所見、反対所見、最終診断の正確性、および次のステップの適切性を評価する構造化ルーブリックに基づく複合パーセンテージスコアです。 副次アウトカムには、トップ選択診断の正確性（誤り、部分的に正しい、または正しい）が含まれます。 すべての回答は、盲検化された評価者が評価ルーブリックを使用して評価します。