- ICH GCP
- 미국 임상 시험 레지스트리
- 임상시험 NCT05495438
ICU의 의사 결정에서 AI의 영향 및 안전성: 시뮬레이션 실험 (ICU)
의료 환경에 인공 지능(AI)을 배치하는 것이 인간의 의사 결정자에게 어떤 영향을 미칠 것인지에 대한 영향은 불분명합니다. 이전 연구는 AI 경고가 자주 무시되거나(Kamal et al., 2020) 환자 결과를 악화시키는 예기치 않은 행동으로 이어질 수 있음을 보여주었습니다(Wilson et al., 2021). 반면에 AI에 대한 과도한 자신감과 신뢰는 유해한 AI 결정을 감지하는 능력을 포함하여 여러 가지 부정적인 결과를 초래할 수 있으며, 이는 환자에게 해를 입히고 인간의 탈숙련화로 이어집니다. 이러한 측면 중 일부는 자동화 편향과 관련이 있습니다.
이 시뮬레이션 연구에서 연구자들은 AI 기반 임상 의사 결정 지원 도구를 사용하여 임상적 불확실성이 높은 영역에서 의학적 결정이 수정되는지 여부를 측정하려고 합니다. ICU에서 패혈증(장기 부전으로 인한 심각한 감염)이 있는 성인 환자에게 의사가 투여한 정맥 수액(IVF) 및 승압제 용량이 가상 AI가 제안한 용량을 공개한 결과 어떻게 변화하는지 측정합니다. 패혈증 소생술 분야는 체계화되어 있지 않으며, 높은 불확실성으로 인해 실제로 높은 변동성을 초래합니다. 이 연구는 AI 임상의를 구체적으로 언급하지 않을 것입니다(Komorowski et al., 2018). 대신 조사관은 다른 임상 환경(예: 모델 훈련에 사용된 소스 데이터와 다른 국가의 데이터를 사용하여 소급 검증된 모델)의 후향적 데이터에 대한 효과의 일부 증거가 있지만 전향적 AI가 없는 가상 AI를 설명합니다. 효과 또는 안전성의 증거. 따라서 이 가상의 AI가 안전하지 않은 제안을 제공할 수 있습니다. 조사관은 안전하지 않은 AI 제안(무작위 순서)을 의도적으로 도입하여 이를 감지할 때 참가자의 민감도를 측정합니다.
연구 개요
상세 설명
의료 환경에 인공 지능(AI)을 배치하는 것이 인간의 의사 결정자에게 어떤 영향을 미칠 것인지에 대한 영향은 불분명합니다. 이전 연구는 AI 경고가 자주 무시되거나(Kamal et al., 2020) 환자 결과를 악화시키는 예기치 않은 행동으로 이어질 수 있음을 보여주었습니다(Wilson et al., 2021). 반면에 AI에 대한 과도한 자신감과 신뢰는 유해한 AI 결정을 감지하는 능력을 포함하여 여러 가지 부정적인 결과를 초래할 수 있으며, 이는 환자에게 해를 입히고 인간의 탈숙련화로 이어집니다. 이러한 측면 중 일부는 자동화 편향과 관련이 있습니다.
이 시뮬레이션 연구에서 연구자들은 AI 기반 임상 의사 결정 지원 도구를 사용하여 임상적 불확실성이 높은 영역에서 의학적 결정이 수정되는지 여부를 측정하려고 합니다. ICU에서 패혈증(장기 부전으로 인한 심각한 감염)이 있는 성인 환자에게 의사가 투여한 정맥 수액(IVF) 및 승압제 용량이 가상 AI가 제안한 용량을 공개한 결과 어떻게 변화하는지 측정합니다. 패혈증 소생술 분야는 체계화되어 있지 않으며, 높은 불확실성으로 인해 실제로 높은 변동성을 초래합니다. 이 연구는 AI 임상의를 구체적으로 언급하지 않을 것입니다(Komorowski et al., 2018). 대신 조사관은 다른 임상 환경(예: 모델 훈련에 사용된 소스 데이터와 다른 국가의 데이터를 사용하여 소급 검증된 모델)의 후향적 데이터에 대한 효과의 일부 증거가 있지만 전향적 AI가 없는 가상 AI를 설명합니다. 효과 또는 안전성의 증거. 따라서 이 가상의 AI가 안전하지 않은 제안을 제공할 수 있습니다. 조사관은 안전하지 않은 AI 제안(무작위 순서)을 의도적으로 도입하여 이를 감지할 때 참가자의 민감도를 측정합니다.
조사관은 어떤 참가자 특성이 AI의 영향을 받을 가능성 증가와 연결되어 있는지 조사하고 미리 지정된 여러 하위 그룹 분석을 수행합니다. AI에 대해 긍정적이거나 부정적인 태도를 가진 사람들을 구분합니다.
연구 유형
등록 (실제)
연락처 및 위치
연구 장소
-
-
-
London, 영국, W2 1PG
- Imperial College Hospitals NHS Trust
-
-
참여기준
자격 기준
공부할 수 있는 나이
건강한 자원 봉사자를 받아들입니다
연구 대상 성별
샘플링 방법
연구 인구
설명
포함 기준:
- Junior (senior house officer) 또는 Senior (registrar/fellow/consultant) ICU 의사
제외 기준:
- 포함 기준을 충족하지 않는 참가자.
공부 계획
연구는 어떻게 설계됩니까?
디자인 세부사항
코호트 및 개입
그룹/코호트 |
개입 / 치료 |
|---|---|
|
ICU 임상의
|
해당 없음 - 개입이 없습니다.
임상의는 가상 AI의 제안을 검토합니다.
|
연구는 무엇을 측정합니까?
주요 결과 측정
결과 측정 |
측정값 설명 |
기간 |
|---|---|---|
|
ICU 임상의에 대한 AI의 영향
기간: 3 개월
|
ICU 임상의에 대한 AI의 영향은 다음과 같은 범주로 나뉩니다: 안전/불안전, 주니어/시니어 및 AI에 대한 긍정적/부정적 태도에 따라 전체 및 계층화.
|
3 개월
|
2차 결과 측정
결과 측정 |
측정값 설명 |
기간 |
|---|---|---|
|
참가자의 특성
기간: 3 개월
|
시뮬레이션에 참여하는 사람들의 특성은 무엇이며 이것이 의사 결정에 어떤 영향을 미칩니 까?
|
3 개월
|
|
AI에 대한 신뢰
기간: 3 개월
|
ICU 임상의는 AI 시스템을 얼마나 신뢰합니까?
|
3 개월
|
|
참가자의 결정에 대한 확신
기간: 3 개월
|
임상의가 AI 시스템을 얼마나 신뢰하는지
|
3 개월
|
|
AI 설명에 주의를 기울인 시간의 비율
기간: 3 개월
|
시뮬레이션 중에 주의를 집중하는 곳
|
3 개월
|
공동 작업자 및 조사자
연구 기록 날짜
연구 주요 날짜
연구 시작 (실제)
기본 완료 (실제)
연구 완료 (실제)
연구 등록 날짜
최초 제출
QC 기준을 충족하는 최초 제출
처음 게시됨 (실제)
연구 기록 업데이트
마지막 업데이트 게시됨 (추정)
QC 기준을 충족하는 마지막 업데이트 제출
마지막으로 확인됨
추가 정보
이 연구와 관련된 용어
키워드
기타 연구 ID 번호
- 22CX7592
개별 참가자 데이터(IPD) 계획
개별 참가자 데이터(IPD)를 공유할 계획입니까?
IPD 계획 설명
약물 및 장치 정보, 연구 문서
미국 FDA 규제 의약품 연구
미국 FDA 규제 기기 제품 연구
이 정보는 변경 없이 clinicaltrials.gov 웹사이트에서 직접 가져온 것입니다. 귀하의 연구 세부 정보를 변경, 제거 또는 업데이트하도록 요청하는 경우 register@clinicaltrials.gov. 문의하십시오. 변경 사항이 clinicaltrials.gov에 구현되는 즉시 저희 웹사이트에도 자동으로 업데이트됩니다. .