神经外科模拟中口头智能导师指导的效率
神经外科模拟中口头智能导师指导的效率:随机对照试验
在神经外科模拟和人工智能学习中心,我们寻求为外科学员提供创新技术,使他们能够在无风险的环境中提高外科技术技能,从而有可能改善患者的手术结果。 智能连续专业监测系统 (ICEMS) 是一种深度学习应用程序,可评估和培训神经外科技术技能并提供持续的术中反馈,就是一种可以改善外科教育的技术。
在这项随机对照试验中,来自魁北克四所大学的医科学生将被盲法并随机分为三组之一(一组为对照组,两组为实验组)。 第 1 组(控制组)将获得基于 ICEMS 错误检测的口头人工智能导师反馈。 第 2 组将由一名人类教练进行辅导,该教练将接收 ICEMS 错误数据并提供与人工智能导师相同的口头指令。 第 3 组将由一名人工指导员进行辅导,该指导员将获得 ICEMS 数据,但可能会提供他们认为适合纠正错误的反馈。
本研究的目的是确定口头手术错误指导的方法如何影响受训者对指导的反应和整体手术表现。 与人类教练的反馈相比,评估学员对人工智能教练口头反馈的反应,将有助于进一步开发、测试和优化 ICEMS 和其他人工智能辅导系统。
研究概览
详细说明
背景:专业的外科技术技能与改善患者预后有关;然而,培训新手掌握这些技能仍然具有挑战性。 智能连续专业监测系统 (ICEMS) 是神经外科模拟和人工智能学习中心开发的深度学习应用程序,旨在改善神经外科教育。 ICEMS 通过口头指令提供持续反馈来评估和训练双手手术表现,以提高受训者表现并减少错误。
理由:我们中心之前进行的一项随机对照试验 (RCT) 表明,在模拟神经外科手术中,智能辅导比专家辅导更有效 (NCT05168150)。 另一项随机对照试验显示,医学生对减少双极力施加的 ICEMS 指令的反应表现各不相同 (NCT04700384)。 凝聚聚类算法将这些可变的学生反应分为 3 组:53% 的学生成功地遵守了纠正错误的指示,36% 的学生没有遵守指示,11% 的学生对指示反应过度。 这种反应的可变性可能会严重限制 ICEMS 的实用性,并可能归因于不同的学习方式、压力水平或对人工智能指令的误解。 在本研究期间,没有向专家培训师提供 ICEMS 错误数据。 进行一项新的随机对照试验,向专家培训师提供 ICEMS 错误数据,这将澄清许多学员没有对人工智能指令做出反应的原因。
本报告遵循人工智能试验报告综合标准 (CONSORT-AI) 以及评估外科专业知识的机器学习 (MLASE) 检查表。
假设:
- 与人类教练提供的相同错误反馈相比,口头人工智能反馈在受训者中产生的成功响应率要低得多。
- 在评估的两个不同的人类指导组中,受训者绩效评估分数将显着更高。
- 与人类教练提供的口头错误反馈相比,人工智能导师提供的指导将导致压力水平和认知负荷增加。
主要目标:确定手术错误指导的提供方法如何影响:
- 受训者对指令的反应,即他们是否纠正、未纠正或过度纠正错误(ICEMS 收集的数据)。
- 受训者整体手术表现(ICEMS 计算的实践场景平均专业知识分数,由两位盲法专家评估者确定的现实场景的客观结构化技术技能评估 (OSATS) 分数)。
次要目标:确定手术错误指导的提供方法如何影响受训者的情感认知反应(通过 5 点李克特量表问卷自我报告)。
地点:麦吉尔大学神经外科模拟和人工智能学习中心。
参与者:在魁北克四所医学院之一就读预科、第一年或第二年的学生。
设计:三组随机对照试验。
干预:参与者将在 NeuroVR (CAE Healthcare) 上接受大约 90 分钟的培训课程,NeuroVR 是一种虚拟现实 (VR) 手术模拟器,可模拟软膜下脑肿瘤切除术。 NeuroVR有两种可能的场景:简单的练习场景和复杂的现实场景。 参与者将重复执行六次练习场景(每次 5 分钟),然后执行现实场景(13 分钟)。 ICEMS 将在整个试验过程中不断评估表现。 当 ICEMS 检测到他们的表现有错误时,所有参与者都会收到口头反馈;然而,这种口头反馈的传递方法因群体而异。
- 当检测到错误时,第 1 组(控制)将直接从 ICEMS 接收口头反馈。
- 第 2 组(实验)将收到专家讲师的口头反馈,其语言与 ICEMS 相同。
- 第 3 组(实验)将收到专家讲师用自己的话进行的口头反馈。
口头反馈将基于以下四个指标:(1)器械尖端分离距离,即双极镊子尖端与超声吸引器之间的距离; (2)双极力低; (3)吸气力大; (4)高双极力。 学员将一次针对一项指标进行评估,并可以选择在转向每项新指标之前观看专家级演示视频。 一旦掌握了一个指标,学员将继续学习下一个指标。 当受训者完成整个重复而没有收到反馈时,就认为该指标已“掌握”。
第一个练习场景将作为基准;因此,不会提供任何反馈。 在第二次、第三次、第四次、第五次重复中,将根据ICEMS错误检测给出反馈。 在第六次重复以及现实场景中,不会提供任何反馈。
意义:随着外科教育方法开始转向基于能力的框架,在外科培训中实施有效的人工智能教育反馈对于优化外科学习至关重要。 该 RCT 的结果将允许对 ICEMS 和其他人工智能辅导系统进行评估和重新设计,这不仅可以推动基于标准化能力的外科教育培训课程的开发,而且可以推动任何依赖于口头指令的人工智能辅导技术的开发。
研究类型
注册 (实际的)
阶段
- 不适用
联系人和位置
学习地点
-
-
Quebec
-
Montréal、Quebec、加拿大、H2X 4B3
- Neurosurgical Simulation and Artificial Intelligence Learning Centre
-
-
参与标准
资格标准
适合学习的年龄
- 成人
- 年长者
接受健康志愿者
描述
纳入标准:
- 在任何魁北克机构积极就读医学院且不符合排除标准的医学生。
- 积极就读任何魁北克机构医学院且不符合排除标准的医学预科学生。
排除标准:
- 之前使用过 NeuroVR (CAE Healthcare) 模拟器。
学习计划
研究是如何设计的?
设计细节
- 主要用途:卫生服务研究
- 分配:随机化
- 介入模型:并行分配
- 屏蔽:单身的
武器和干预
参与者组/臂 |
干预/治疗 |
|---|---|
|
无干预:AI导师指导小组
31名参与者分配了。
在他们的第二,第三,第四和第五次重复中,练习下脑肿瘤切除方案,当系统检测到其性能错误时,参与者将收到口头ICEM反馈。
|
|
|
实验性的:专家指导小组
29名参与者分配了。
在他们的第二,第三,第四和第五次重复中,参与者将从专家讲师那里获得口头反馈。
专家讲师将使用与ICEM相同的单词来提供此反馈。
|
分配给导师的专家讲师将从ICEM接收错误检测数据。
他们还将提供ICEM使用的命令列表。
当系统检测到给定度量的学生表现错误时,讲师必须使用ICEM提供的确切措辞传递此命令。
|
|
实验性的:个性化专家教学小组
28名参与者分配了。
在他们的第二,第三,第四和第五次重复中,参与者将从专家讲师那里获得口头反馈。
专家讲师将使用他们的专业知识向参与者提供个性化的反馈。
|
分配给导师的专家讲师将从ICEM接收错误检测数据。
当系统检测到给定指标的学生表现错误时,讲师将自由地将反馈个性化和上下文化,而无需限制ICEM措辞。
|
研究衡量的是什么?
主要结果指标
结果测量 |
措施说明 |
大体时间 |
|---|---|---|
|
智能连续专业知识监测系统(ICEMS)专业知识得分 - 跨神经模拟器实践任务的技术技能获取
大体时间:1天学习
|
ICEM将在每项练习任务中不断评估学员的表现,并以-1.00(新手)至1.00(专家)计算平均专业知识得分。
这将使我们能够评估学习者从第一次重复到实践任务的学习技能获取。
|
1天学习
|
|
智能连续专业知识监控系统(ICEMS)专业知识得分 - 神经模拟器的复杂实际任务中的技术技能转移
大体时间:1天学习
|
ICEM将在现实任务中不断评估学员的表现,并计算出-1.00(新手)至1.00(专家)的平均专业知识得分。
这将使我们能够评估学习者从实践任务到更复杂的现实情况的技术技能转移。
|
1天学习
|
次要结果测量
结果测量 |
措施说明 |
大体时间 |
|---|---|---|
|
情绪的力量引起
大体时间:1天学习
|
在干预之前,之中和之后,使用Duffy的医疗情绪量表(MES)测量(通过7点李克特量表通过问卷进行自我报告)。
|
1天学习
|
|
认知负荷的水平
大体时间:1天学习
|
干预后,使用Leppink的认知负荷指数(CLI)测量(通过5点李克特量表通过问卷进行自我报告)。
|
1天学习
|
合作者和调查者
出版物和有用的链接
一般刊物
- Winkler-Schwartz A, Yilmaz R, Mirchi N, Bissonnette V, Ledwos N, Siyar S, Azarnoush H, Karlik B, Del Maestro R. Machine Learning Identification of Surgical and Operative Factors Associated With Surgical Expertise in Virtual Reality Simulation. JAMA Netw Open. 2019 Aug 2;2(8):e198363. doi: 10.1001/jamanetworkopen.2019.8363.
- Mirchi N, Bissonnette V, Yilmaz R, Ledwos N, Winkler-Schwartz A, Del Maestro RF. The Virtual Operative Assistant: An explainable artificial intelligence tool for simulation-based training in surgery and medicine. PLoS One. 2020 Feb 27;15(2):e0229596. doi: 10.1371/journal.pone.0229596. eCollection 2020.
- Fazlollahi AM, Bakhaidar M, Alsayegh A, Yilmaz R, Winkler-Schwartz A, Mirchi N, Langleben I, Ledwos N, Sabbagh AJ, Bajunaid K, Harley JM, Del Maestro RF. Effect of Artificial Intelligence Tutoring vs Expert Instruction on Learning Simulated Surgical Skills Among Medical Students: A Randomized Clinical Trial. JAMA Netw Open. 2022 Feb 1;5(2):e2149008. doi: 10.1001/jamanetworkopen.2021.49008.
- Yilmaz R, Fazlollahi AM, Winkler-Schwartz A, Wang A, Makhani HH, Alsayegh A, Bakhaidar M, Tran DH, Santaguida C, Del Maestro RF. Effect of Feedback Modality on Simulated Surgical Skills Learning Using Automated Educational Systems- A Four-Arm Randomized Control Trial. J Surg Educ. 2024 Feb;81(2):275-287. doi: 10.1016/j.jsurg.2023.11.001. Epub 2023 Dec 29.
- Fazlollahi AM, Yilmaz R, Winkler-Schwartz A, Mirchi N, Ledwos N, Bakhaidar M, Alsayegh A, Del Maestro RF. AI in Surgical Curriculum Design and Unintended Outcomes for Technical Competencies in Simulation Training. JAMA Netw Open. 2023 Sep 5;6(9):e2334658. doi: 10.1001/jamanetworkopen.2023.34658.
- Yilmaz R, Bakhaidar M, Alsayegh A, Abou Hamdan N, Fazlollahi AM, Tee T, Langleben I, Winkler-Schwartz A, Laroche D, Santaguida C, Del Maestro RF. Real-Time multifaceted artificial intelligence vs In-Person instruction in teaching surgical technical skills: a randomized controlled trial. Sci Rep. 2024 Jul 2;14(1):15130. doi: 10.1038/s41598-024-65716-8.
研究记录日期
研究主要日期
学习开始 (实际的)
初级完成 (实际的)
研究完成 (实际的)
研究注册日期
首次提交
首先提交符合 QC 标准的
首次发布 (实际的)
研究记录更新
最后更新发布 (实际的)
上次提交的符合 QC 标准的更新
最后验证
更多信息
与本研究相关的术语
计划个人参与者数据 (IPD)
计划共享个人参与者数据 (IPD)?
IPD 计划说明
IPD 共享时间框架
IPD 共享访问标准
IPD 共享支持信息类型
- 研究方案
- 树液
- 国际碳纤维联合会
- 分析代码
- 企业社会责任
药物和器械信息、研究文件
研究美国 FDA 监管的药品
研究美国 FDA 监管的设备产品
在美国制造并从美国出口的产品
此信息直接从 clinicaltrials.gov 网站检索,没有任何更改。如果您有任何更改、删除或更新研究详细信息的请求,请联系 register@clinicaltrials.gov. clinicaltrials.gov 上实施更改,我们的网站上也会自动更新.