急性呼吸衰竭诊断的人类算法交互

人工智能 (AI) 在识别临床图像异常方面显示出良好的前景。 然而，存在系统偏差的人工智能模型（模型对整个亚群做出不准确的预测）可能会导致错误和潜在危害。 当人工智能模型显示出错误的预测时，临床医生的诊断准确性可能会受到损害。 本研究旨在研究在提供 AI 模型预测时为临床医生提供基于图像的 AI 模型解释的有效性，以帮助临床医生更好地理解 AI 模型预测的逻辑。 它将评估为临床医生提供人工智能模型解释是否可以提高诊断准确性并帮助临床医生发现模型何时做出错误决策。 作为一个测试案例，该研究将重点关注急性呼吸衰竭的诊断，因为确定急性呼吸衰竭的根本原因对于指导治疗决策至关重要，但在临床上可能具有挑战性。

为了确定提供人工智能解释是否可以提高临床医生的诊断准确性并减轻向临床医生展示系统性偏见人工智能模型的潜在影响，将进行一项随机临床小插曲调查研究。 在调查期间，研究参与者将看到因急性呼吸衰竭住院的患者的临床情况，包括患者出现的症状、体检、实验室结果和胸部 X 光检查。 然后，研究参与者将被要求评估心力衰竭、肺炎和/或慢性阻塞性肺疾病（COPD）是潜在诊断的可能性。 在调查的特定片段中，参与者还将看到标准或有系统偏差的人工智能模型，这些模型可以估计心力衰竭、肺炎和/或慢性阻塞性肺病是潜在诊断的可能性。 当显示人工智能模型时，临床医生将被随机查看单独的人工智能预测或带有解释的人工智能预测。 该调查设计将允许检验系统偏差模型会损害临床医生诊断准确性的假设，但常用的基于图像的解释将帮助临床医生部分恢复其表现。