ICU における意思決定における AI の影響と安全性: シミュレーション実験 (ICU)
ヘルスケア環境に人工知能 (AI) を導入することの影響、特に AI が人間の意思決定者に与える影響は不明です。 以前の研究では、AI アラートが頻繁に無視されるか (Kamal et al., 2020)、または患者の転帰を悪化させる予期しない動作につながる可能性があることが示されました (Wilson et al., 2021)。 一方、AI に対する過度の信頼と信頼は、有害な AI の決定を検出する能力を含むいくつかの悪影響をもたらし、患者への危害や人間の脱皮につながる可能性があります。 これらの側面のいくつかは、自動化バイアスに関連しています。
このシミュレーション研究では、研究者は、AI ベースの臨床意思決定支援ツールを使用して、臨床上の不確実性が高い分野での医学的意思決定が変更されるかどうかを測定する予定です。 成人の敗血症患者(臓器不全を伴う重度の感染症)の ICU で医師が投与する静脈内輸液(IVF)と昇圧剤の投与量が、仮想 AI によって提案された投与量を開示した結果、どのように変化するかを測定します。 敗血症の蘇生の分野は体系化されておらず、不確実性が高いため、実際にはばらつきが大きくなっています。 この研究では、AI 臨床医については特に言及しません (Komorowski et al., 2018)。 代わりに、研究者は、別の臨床環境でのレトロスペクティブ データ (たとえば、モデル トレーニングに使用されたソース データとは異なる国からのデータを使用して遡及的に検証されたモデル) での有効性の証拠があるが、将来性のない仮説 AI について説明します。有効性または安全性の証拠。 そのため、この架空の AI が安全でない提案を提供する可能性があります。 調査員は、安全でない AI の提案を (ランダムな順序で) 意図的に導入し、これらを検出する際の参加者の感度を測定します。
調査の概要
詳細な説明
ヘルスケア環境に人工知能 (AI) を導入することの影響、特に AI が人間の意思決定者に与える影響は不明です。 以前の研究では、AI アラートが頻繁に無視されるか (Kamal et al., 2020)、または患者の転帰を悪化させる予期しない動作につながる可能性があることが示されました (Wilson et al., 2021)。 一方、AI に対する過度の信頼と信頼は、有害な AI の決定を検出する能力を含むいくつかの悪影響をもたらし、患者への危害や人間の脱皮につながる可能性があります。 これらの側面のいくつかは、自動化バイアスに関連しています。
このシミュレーション研究では、研究者は、AI ベースの臨床意思決定支援ツールを使用して、臨床上の不確実性が高い分野での医学的意思決定が変更されるかどうかを測定する予定です。 成人の敗血症患者(臓器不全を伴う重度の感染症)の ICU で医師が投与する静脈内輸液(IVF)と昇圧剤の投与量が、仮想 AI によって提案された投与量を開示した結果、どのように変化するかを測定します。 敗血症の蘇生の分野は体系化されておらず、不確実性が高いため、実際にはばらつきが大きくなっています。 この研究では、AI 臨床医については特に言及しません (Komorowski et al., 2018)。 代わりに、研究者は、別の臨床環境でのレトロスペクティブ データ (たとえば、モデル トレーニングに使用されたソース データとは異なる国からのデータを使用して遡及的に検証されたモデル) での有効性の証拠があるが、将来性のない仮説 AI について説明します。有効性または安全性の証拠。 そのため、この架空の AI が安全でない提案を提供する可能性があります。 調査員は、安全でない AI の提案を (ランダムな順序で) 意図的に導入し、これらを検出する際の参加者の感度を測定します。
調査員は、参加者のどのような特徴が AI の影響を受ける可能性の増加に関連しているかを調べ、事前に指定されたサブグループ分析をいくつか実施します。 ICU の若手医師とシニア ICU 医師を区別し、AI に対して肯定的または否定的な態度を持つ医師を分離します。
研究の種類
入学 (実際)
連絡先と場所
研究場所
-
-
-
London、イギリス、W2 1PG
- Imperial College Hospitals NHS Trust
-
-
参加基準
適格基準
就学可能な年齢
健康ボランティアの受け入れ
受講資格のある性別
サンプリング方法
調査対象母集団
説明
包含基準:
- ジュニア(シニアハウスオフィサー)またはシニア(レジストラ/フェロー/コンサルタント)ICU医師
除外基準:
- 参加基準を満たしていない参加者。
研究計画
研究はどのように設計されていますか?
デザインの詳細
コホートと介入
グループ/コホート |
介入・治療 |
|---|---|
|
ICU臨床医
|
該当なし - 介入はありません。
臨床医は、仮想 AI の提案を確認します
|
この研究は何を測定していますか?
主要な結果の測定
結果測定 |
メジャーの説明 |
時間枠 |
|---|---|---|
|
ICU 臨床医に対する AI の影響
時間枠:3ヶ月
|
AI が ICU の臨床医に与える影響。これは次のカテゴリに分類されます。AI に対する安全/危険、ジュニア/シニア、およびポジティブ/ネガティブな態度によって、全体的および層別化されます。
|
3ヶ月
|
二次結果の測定
結果測定 |
メジャーの説明 |
時間枠 |
|---|---|---|
|
参加者の特徴
時間枠:3ヶ月
|
シミュレーションに参加している人々の特徴と、それが意思決定にどのように影響するか。
|
3ヶ月
|
|
AI を信頼する
時間枠:3ヶ月
|
ICU の臨床医は AI システムをどの程度信頼していますか。
|
3ヶ月
|
|
参加者の決定に対する信頼
時間枠:3ヶ月
|
臨床医は AI システムにどの程度の自信を持っているか
|
3ヶ月
|
|
AI説明に注目している時間の割合
時間枠:3ヶ月
|
シミュレーション中に注意が集中する場所
|
3ヶ月
|
協力者と研究者
スポンサー
研究記録日
主要日程の研究
研究開始 (実際)
一次修了 (実際)
研究の完了 (実際)
試験登録日
最初に提出
QC基準を満たした最初の提出物
最初の投稿 (実際)
学習記録の更新
投稿された最後の更新 (見積もり)
QC基準を満たした最後の更新が送信されました
最終確認日
詳しくは
本研究に関する用語
キーワード
その他の研究ID番号
- 22CX7592
個々の参加者データ (IPD) の計画
個々の参加者データ (IPD) を共有する予定はありますか?
IPD プランの説明
医薬品およびデバイス情報、研究文書
米国FDA規制医薬品の研究
米国FDA規制機器製品の研究
この情報は、Web サイト clinicaltrials.gov から変更なしで直接取得したものです。研究の詳細を変更、削除、または更新するリクエストがある場合は、register@clinicaltrials.gov。 までご連絡ください。 clinicaltrials.gov に変更が加えられるとすぐに、ウェブサイトでも自動的に更新されます。