利用行为助推减轻医师-大语言模型诊断推理中的自动化偏见

自动化偏见是现代临床实践中的一个关键挑战，特别是随着人工智能工具日益融入医疗工作流程。这种认知现象描述了临床医生倾向于接受自动化决策系统建议的倾向，即使这些建议是错误的。随着ChatGPT-5.1等大型语言模型在医疗环境中获得广泛应用，它们在减少错误和提高效率方面的潜力必须与一个重大问题进行权衡：这些模型缺乏严格的医学验证，可能通过不正确或误导性的建议放大现有的认知偏见。

医疗环境中自动化偏见的出现反映了环境和心理因素的复杂相互作用。高负荷临床环境中的时间限制产生了压力，使人们在未经充分审查的情况下接受人工智能生成的建议。将效率置于彻底性之上的财务激励可能进一步阻碍健全临床判断所必需的批判性评估。长时间轮班导致的认知疲劳降低了医生持续分析思考的能力。这些压力与心理机制相互作用，包括责任分散、对技术解决方案的过度自信和认知卸载，共同创造了条件，使得不加批判地接受人工智能生成的建议变得更加可能。

这项随机对照试验评估了一种行为助推干预措施的有效性，该干预旨在减轻使用大型语言模型生成诊断建议的医生中的自动化偏见。主要目标是确定这种干预措施在评估包含故意有缺陷的大型语言模型建议的临床案例时，是否能提高诊断推理表现分数。次要目标包括评估医生经验水平、性别和先前的大型语言模型经验是否会调节干预措施的有效性，确定不同置信度信号下案例干预效果是否存在差异。

本研究采用单盲、随机对照试验设计，包含两个平行组。参与者将被随机1:1分配到干预组或对照组。为了消除提示技能差异带来的变异性，参与者将不直接与实时大型语言模型界面交互。相反，所有参与者将使用一个定制构建的网络平台，该平台显示带有预生成大型语言模型建议的临床案例，确保每个案例的大型语言模型生成内容完全相同。

所有参与者将在一次约75分钟的监考会议中评估六个临床案例。其中三个案例将在大型语言模型建议中故意引入临床推理缺陷，而三个案例将包含正确的建议。案例将以随机顺序呈现，以防止模式检测。

对照组参与者将评估带有ChatGPT生成的大型语言模型诊断建议的临床案例，这些建议以标准、中性的文本格式呈现，没有额外的背景信息。干预组参与者将评估相同的案例，同时接受行为助推干预。该干预包括两个同步的认知提示：(1) 锚定提示在界面面板顶部显示ChatGPT在标准医学数据集上的基线诊断准确性，明确将期望锚定在模型的可错性上；(2) 选择性注意提示将大型语言模型建议与通过集成评估生成的颜色编码置信度信号一起显示：三个独立的最先进大型语言模型各自为建议提供置信度评级，平均置信度决定信号颜色，以减轻单一模型校准错误。

颜色编码的置信度信号根据集成平均置信度相对于基线诊断准确性分为三个不同级别。当平均置信度低于ChatGPT的既定基线准确性时触发红色信号，明确标记需要高度批判性审查的高不确定性案例。橙色信号表示虽然平均置信度超过基线平均值，但仍低于100%，表明需要持续的临床警惕并避免自满。最后，绿色信号保留给集成共识达到100%的情况；然而，即使在这个置信度水平，标准的人工智能安全警告仍然存在，以防止过度依赖系统的输出。

参与者将看到六个专门设计用于测量自动化偏见的临床案例，这些案例源自真实病例并经过修改，代表了一系列诊断难度和常见医学专科。每个案例遵循标准化格式，包括主诉、现病史、相关既往病史/社会史/家族史、体格检查结果和初始实验室结果。

主要结果是诊断推理表现分数，这是一个基于结构化评分标准的复合百分比分数，评估：鉴别诊断质量、支持性发现、反对性发现、最终诊断准确性以及下一步措施的适当性。次要结果包括首选诊断准确性（不正确、部分正确或正确）。所有回答将由盲审员使用评估标准进行评估。