脳神経外科シミュレーションにおける口頭によるインテリジェント家庭教師の指導の効率性
脳神経外科シミュレーションにおける口頭によるインテリジェント家庭教師の指導の効率性: ランダム化比較試験
脳神経外科シミュレーションおよび人工知能学習センターでは、リスクのない環境で外科の技術スキルを向上させ、患者の手術結果を向上させる可能性がある革新的なテクノロジーを外科研修生に提供することを目指しています。 Intelligent Continuous Expertise Monitoring System (ICEMS) は、脳神経外科の技術スキルを評価および訓練し、継続的な術中フィードバックを提供するディープラーニング アプリケーションであり、外科教育を改善する可能性のあるテクノロジーの 1 つです。
このランダム化比較試験では、ケベック州の 4 つの大学の医学生が盲検化され、3 つのグループ (1 つは対照、2 つは実験) のいずれかにランダムに割り当てられます。 グループ 1 (対照) には、ICEMS エラー検出に基づいて AI 講師による口頭フィードバックが提供されます。 グループ 2 は、ICEMS エラー データを受け取り、AI 講師が行うのと同じ口頭指導を行う人間の講師によって指導されます。 グループ 3 は人間のインストラクターによって指導されます。インストラクターには ICEMS データが提供されますが、エラーを修正するのに適切であると思われる場合はフィードバックを提供する場合があります。
この研究の目的は、口頭による手術ミスの指導方法が、指導に対する研修医の反応や全体的な手術パフォーマンスにどのような影響を与えるかを判断することです。 人間のインストラクターからのフィードバックと比較して、AI インストラクターの口頭フィードバックに対する研修生の反応を評価することで、ICEMS やその他の AI 個別指導システムのさらなる開発、テスト、最適化が可能になります。
調査の概要
詳細な説明
背景: 熟練した外科技術スキルは患者の転帰の改善につながります。ただし、初心者をトレーニングしてこれらのスキルを習得するのは依然として困難です。 Intelligent Continuous Expertise Monitoring System (ICEMS) は、脳神経外科教育を改善するために脳神経外科シミュレーションおよび人工知能学習センターで開発されたディープ ラーニング アプリケーションです。 ICEMS は、研修生のパフォーマンスを向上させ、エラーを軽減するために、口頭による指示を介して継続的なフィードバックを提供することにより、両手での手術パフォーマンスを評価および訓練します。
理論的根拠: 当センターで実施された以前のランダム化比較試験 (RCT) では、模擬神経外科手術では、インテリジェントな個別指導が専門家の個別指導よりも効果的であることが実証されました (NCT05168150)。 別のRCTでは、双極性の力の適用を減らすというICEMSの指示に対する医学生の成績にはばらつきがあることが明らかになった(NCT04700384)。 集合的クラスタリング アルゴリズムは、これらの変動する生徒の反応を 3 つのグループに分類しました。53% が間違いを正すための指示にうまく従い、36% が指示に従わず、11% が指示に過剰反応しました。 この応答のばらつきは、ICEMS の有用性を大幅に制限する可能性があり、学習スタイル、ストレス レベル、または AI 指導の誤解が原因である可能性があります。 この調査中、専門トレーナーには ICEMS エラー データは提供されませんでした。 専門トレーナーにICEMSエラーデータが提供される新たなRCTを実施することで、多くの研修生がAIの指示に反応しなかった理由が明らかになるだろう。
このレポートは、臨床試験の報告に関する統合基準 - 人工知能 (CONSORT-AI) および外科的専門知識を評価するための機械学習 (MLASE) チェックリストに従っています。
仮説:
- AI による言葉によるフィードバックでは、人間のインストラクターが提供する同一のエラー フィードバックよりも、受講生の成功反応率が大幅に低くなります。
- 研修生のパフォーマンス評価スコアは、評価された 2 つの異なる人間指導グループで大幅に高くなります。
- AI 講師による指導は、人間の講師による口頭での間違いのフィードバックと比較して、ストレス レベルと認知的負荷が増加します。
主な目的: 手術ミスの指示の伝達方法が以下にどのような影響を与えるかを判断すること。
- 指導に対する訓練生の反応、つまり、間違いを訂正したか、訂正しなかったか、または過剰に訂正したかどうか (ICEMS によって収集されたデータ)。
- 研修生の全体的な外科パフォーマンス(ICEMS によって計算された実践シナリオの専門知識スコアの平均、盲検の専門評価者 2 人によって決定された現実的なシナリオの技術スキルの客観的構造化評価 (OSATS) スコア)。
第 2 の目的: 手術ミスの指導方法が研修医の感情的認知反応 (5 点リッカート尺度でのアンケートによる自己申告) にどのような影響を与えるかを判断すること。
設定: マギル大学の脳神経外科シミュレーションおよび人工知能学習センター。
参加者: ケベック州の 4 つの医科大学のいずれかに予備学年、1 年生、または 2 年生に在籍している学生。
デザイン: 3 群のランダム化比較試験。
介入: 参加者は、軟膜下脳腫瘍切除をシミュレートする仮想現実 (VR) 手術シミュレーターである NeuroVR (CAE Healthcare) で約 90 分間のトレーニング セッションを受けます。 NeuroVR には、単純な練習シナリオと複雑で現実的なシナリオの 2 つのシナリオが考えられます。 参加者は、練習シナリオ (各 5 分) を 6 回繰り返した後、現実的なシナリオ (13 分) を実行します。 ICEMS は試験期間中継続的にパフォーマンスを評価します。 ICEMS がパフォーマンスのエラーを検出すると、すべての参加者は口頭でフィードバックを受け取ります。ただし、この口頭フィードバックの伝達方法はグループによって異なります。
- グループ 1 (コントロール) は、エラーが検出されたときに ICEMS から直接口頭でフィードバックを受け取ります。
- グループ 2 (実験) は、ICEMS と同じ言葉で専門インストラクターから口頭でフィードバックを受けます。
- グループ 3 (実験) は、専門のインストラクターから自分の言葉で口頭でフィードバックを受けます。
口頭によるフィードバックは、次の 4 つの指標に基づいて行われます。(1) 器具先端分離距離、つまり、双極鉗子の先端と超音波吸引器の間の距離。 (2) 双極性力が低い。 (3) 高い吸引力。 (4) 高い双極性力。 研修生は一度に 1 つの指標で評価され、新しい指標に進む前に専門家レベルのデモンストレーション ビデオを視聴するオプションが与えられます。 指標を習得したら、研修生は次の指標に進みます。 トレーニング生がフィードバックを受け取らずに繰り返し全体を完了すると、メトリクスは「習得」されたとみなされます。
最初の実践シナリオはベースラインとして機能します。したがって、フィードバックは与えられません。 2 回目、3 回目、4 回目、5 回目の繰り返しでは、ICEMS のエラー検出に応じてフィードバックが与えられます。 6 回目の繰り返しでは、現実的なシナリオと同様に、フィードバックは提供されません。
重要性: 外科教育アプローチがコンピテンシーベースのフレームワークに移行し始めているため、外科トレーニングへの効果的な AI 教育フィードバックの導入が外科学習を最適化するために重要になります。 この RCT の結果により、ICEMS やその他の AI 家庭教師システムの評価と再設計が可能になり、標準化されたコンピテンシーベースの外科教育トレーニング カリキュラムだけでなく、口頭指導に依存する AI 家庭教師テクノロジーの開発も前進する可能性があります。
研究の種類
入学 (実際)
段階
- 適用できない
連絡先と場所
研究場所
-
-
Quebec
-
Montréal、Quebec、カナダ、H2X 4B3
- Neurosurgical Simulation and Artificial Intelligence Learning Centre
-
-
参加基準
適格基準
就学可能な年齢
- 大人
- 高齢者
健康ボランティアの受け入れ
説明
包含基準:
- ケベック州の教育機関の医学部に積極的に入学している医学生で、除外基準を満たさない者。
- 除外基準を満たさないケベック州の教育機関の医学部に積極的に入学している医学部前学生。
除外基準:
- NeuroVR (CAE Healthcare) シミュレーターの以前の使用。
研究計画
研究はどのように設計されていますか?
デザインの詳細
- 主な目的:ヘルスサービス研究
- 割り当て:ランダム化
- 介入モデル:並列代入
- マスキング:独身
武器と介入
参加者グループ / アーム |
介入・治療 |
|---|---|
|
介入なし:AIチューター指導グループ
31人の参加者が割り当てられました。
2回目、3回目、4回目、および5回目の脳脳腫瘍切除シナリオの繰り返しの間に、参加者はシステムがパフォーマンスのエラーを検出したときに口頭の象徴フィードバックを受け取ります。
|
|
|
実験的:専門家の指導グループ
29人の参加者が割り当てられました。
2回目、3回目、4回目、および5回目の繰り返し中に、診療サブピアル脳腫瘍切除シナリオの繰り返しの間に、参加者は専門家のインストラクターから言葉によるフィードバックを受け取ります。
専門家のインストラクターは、アイスと同じ単語を使用してこのフィードバックを提供します。
|
このグループに割り当てられたエキスパートインストラクターは、アイデンからエラー検出データを受け取ります。
また、アイスが使用するコマンドのリストも提供されます。
システムが特定のメトリックの学生のパフォーマンスのエラーを検出する場合、インストラクターは、アイスが提供する正確な言葉遣いを使用してこのコマンドを配信する必要があります。
|
|
実験的:パーソナライズされた専門家指導グループ
28人の参加者が割り当てられました。
2回目、3回目、4回目、および5回目の繰り返し中に、診療サブピアル脳腫瘍切除シナリオの繰り返しの間に、参加者は専門家のインストラクターから言葉によるフィードバックを受け取ります。
専門家のインストラクターは、専門知識を使用して、参加者にパーソナライズされたフィードバックを提供します。
|
このグループに割り当てられたエキスパートインストラクターは、アイデンからエラー検出データを受け取ります。
システムが特定のメトリックの学生のパフォーマンスのエラーを検出すると、インストラクターは、アイスの言葉遣いに制限をかけずにフィードバックをパーソナライズし、コンテキスト化する自由を持ちます。
|
この研究は何を測定していますか?
主要な結果の測定
結果測定 |
メジャーの説明 |
時間枠 |
|---|---|---|
|
インテリジェントな継続的な専門知識監視システム(ICEMS)専門知識スコア - NeuroVRシミュレーターの実践タスク全体の技術的スキルの習得
時間枠:研究の1日
|
ICEMは、各練習タスク中の研修生のパフォーマンスを継続的に評価し、-1.00(初心者)から1.00(専門家)のスケールで平均専門知識スコアを計算します。
これにより、実践タスクの最初から6回目の繰り返しから学習者の技術的スキルの習得を評価することができます。
|
研究の1日
|
|
インテリジェントな継続的な専門知識監視システム(ICEMS)専門知識スコア - NeuroVRシミュレーターの複雑な現実的なタスク中の技術的スキル転送
時間枠:研究の1日
|
アイスは、現実的なタスク中の研修生のパフォーマンスを継続的に評価し、-1.00(初心者)から1.00(専門家)のスケールで平均専門知識スコアを計算します。
これにより、実践タスクからより複雑な現実的なシナリオへの学習者の技術的スキル移転を評価することができます。
|
研究の1日
|
二次結果の測定
結果測定 |
メジャーの説明 |
時間枠 |
|---|---|---|
|
感情の強さが引き出されました
時間枠:研究の1日
|
介入の前、最中、および後にDuffyの医学的感情スケール(MES)を使用して測定されます(7ポイントのリッカートスケールのアンケートを介して自己申告)。
|
研究の1日
|
|
認知負荷のレベル
時間枠:勉強の1日
|
介入後にLeppinkの認知負荷指数(CLI)を使用して測定しました(5ポイントのリッカートスケールに関するアンケートを介して自己申告)。
|
勉強の1日
|
協力者と研究者
スポンサー
出版物と役立つリンク
一般刊行物
- Winkler-Schwartz A, Yilmaz R, Mirchi N, Bissonnette V, Ledwos N, Siyar S, Azarnoush H, Karlik B, Del Maestro R. Machine Learning Identification of Surgical and Operative Factors Associated With Surgical Expertise in Virtual Reality Simulation. JAMA Netw Open. 2019 Aug 2;2(8):e198363. doi: 10.1001/jamanetworkopen.2019.8363.
- Mirchi N, Bissonnette V, Yilmaz R, Ledwos N, Winkler-Schwartz A, Del Maestro RF. The Virtual Operative Assistant: An explainable artificial intelligence tool for simulation-based training in surgery and medicine. PLoS One. 2020 Feb 27;15(2):e0229596. doi: 10.1371/journal.pone.0229596. eCollection 2020.
- Fazlollahi AM, Bakhaidar M, Alsayegh A, Yilmaz R, Winkler-Schwartz A, Mirchi N, Langleben I, Ledwos N, Sabbagh AJ, Bajunaid K, Harley JM, Del Maestro RF. Effect of Artificial Intelligence Tutoring vs Expert Instruction on Learning Simulated Surgical Skills Among Medical Students: A Randomized Clinical Trial. JAMA Netw Open. 2022 Feb 1;5(2):e2149008. doi: 10.1001/jamanetworkopen.2021.49008.
- Yilmaz R, Fazlollahi AM, Winkler-Schwartz A, Wang A, Makhani HH, Alsayegh A, Bakhaidar M, Tran DH, Santaguida C, Del Maestro RF. Effect of Feedback Modality on Simulated Surgical Skills Learning Using Automated Educational Systems- A Four-Arm Randomized Control Trial. J Surg Educ. 2024 Feb;81(2):275-287. doi: 10.1016/j.jsurg.2023.11.001. Epub 2023 Dec 29.
- Fazlollahi AM, Yilmaz R, Winkler-Schwartz A, Mirchi N, Ledwos N, Bakhaidar M, Alsayegh A, Del Maestro RF. AI in Surgical Curriculum Design and Unintended Outcomes for Technical Competencies in Simulation Training. JAMA Netw Open. 2023 Sep 5;6(9):e2334658. doi: 10.1001/jamanetworkopen.2023.34658.
- Yilmaz R, Bakhaidar M, Alsayegh A, Abou Hamdan N, Fazlollahi AM, Tee T, Langleben I, Winkler-Schwartz A, Laroche D, Santaguida C, Del Maestro RF. Real-Time multifaceted artificial intelligence vs In-Person instruction in teaching surgical technical skills: a randomized controlled trial. Sci Rep. 2024 Jul 2;14(1):15130. doi: 10.1038/s41598-024-65716-8.
研究記録日
主要日程の研究
研究開始 (実際)
一次修了 (実際)
研究の完了 (実際)
試験登録日
最初に提出
QC基準を満たした最初の提出物
最初の投稿 (実際)
学習記録の更新
投稿された最後の更新 (実際)
QC基準を満たした最後の更新が送信されました
最終確認日
詳しくは
本研究に関する用語
キーワード
その他の研究ID番号
- 2010-270, NEU-09-042-Trial 5
個々の参加者データ (IPD) の計画
個々の参加者データ (IPD) を共有する予定はありますか?
IPD プランの説明
IPD 共有時間枠
IPD 共有アクセス基準
IPD 共有サポート情報タイプ
- STUDY_PROTOCOL
- SAP
- ICF
- ANALYTIC_CODE
- CSR
医薬品およびデバイス情報、研究文書
米国FDA規制医薬品の研究
米国FDA規制機器製品の研究
米国で製造され、米国から輸出された製品。
この情報は、Web サイト clinicaltrials.gov から変更なしで直接取得したものです。研究の詳細を変更、削除、または更新するリクエストがある場合は、register@clinicaltrials.gov。 までご連絡ください。 clinicaltrials.gov に変更が加えられるとすぐに、ウェブサイトでも自動的に更新されます。