이 페이지는 자동 번역되었으며 번역의 정확성을 보장하지 않습니다. 참조하십시오 영문판 원본 텍스트의 경우.

ICU의 의사 결정에서 AI의 영향 및 안전성: 시뮬레이션 실험 (ICU)

2023년 2월 24일 업데이트: Imperial College London

의료 환경에 인공 지능(AI)을 배치하는 것이 인간의 의사 결정자에게 어떤 영향을 미칠 것인지에 대한 영향은 불분명합니다. 이전 연구는 AI 경고가 자주 무시되거나(Kamal et al., 2020) 환자 결과를 악화시키는 예기치 않은 행동으로 이어질 수 있음을 보여주었습니다(Wilson et al., 2021). 반면에 AI에 대한 과도한 자신감과 신뢰는 유해한 AI 결정을 감지하는 능력을 포함하여 여러 가지 부정적인 결과를 초래할 수 있으며, 이는 환자에게 해를 입히고 인간의 탈숙련화로 이어집니다. 이러한 측면 중 일부는 자동화 편향과 관련이 있습니다.

이 시뮬레이션 연구에서 연구자들은 AI 기반 임상 의사 결정 지원 도구를 사용하여 임상적 불확실성이 높은 영역에서 의학적 결정이 수정되는지 여부를 측정하려고 합니다. ICU에서 패혈증(장기 부전으로 인한 심각한 감염)이 있는 성인 환자에게 의사가 투여한 정맥 수액(IVF) 및 승압제 용량이 가상 AI가 제안한 용량을 공개한 결과 어떻게 변화하는지 측정합니다. 패혈증 소생술 분야는 체계화되어 있지 않으며, 높은 불확실성으로 인해 실제로 높은 변동성을 초래합니다. 이 연구는 AI 임상의를 구체적으로 언급하지 않을 것입니다(Komorowski et al., 2018). 대신 조사관은 다른 임상 환경(예: 모델 훈련에 사용된 소스 데이터와 다른 국가의 데이터를 사용하여 소급 검증된 모델)의 후향적 데이터에 대한 효과의 일부 증거가 있지만 전향적 AI가 없는 가상 AI를 설명합니다. 효과 또는 안전성의 증거. 따라서 이 가상의 AI가 안전하지 않은 제안을 제공할 수 있습니다. 조사관은 안전하지 않은 AI 제안(무작위 순서)을 의도적으로 도입하여 이를 감지할 때 참가자의 민감도를 측정합니다.

연구 개요

상태

완전한

정황

개입 / 치료

상세 설명

의료 환경에 인공 지능(AI)을 배치하는 것이 인간의 의사 결정자에게 어떤 영향을 미칠 것인지에 대한 영향은 불분명합니다. 이전 연구는 AI 경고가 자주 무시되거나(Kamal et al., 2020) 환자 결과를 악화시키는 예기치 않은 행동으로 이어질 수 있음을 보여주었습니다(Wilson et al., 2021). 반면에 AI에 대한 과도한 자신감과 신뢰는 유해한 AI 결정을 감지하는 능력을 포함하여 여러 가지 부정적인 결과를 초래할 수 있으며, 이는 환자에게 해를 입히고 인간의 탈숙련화로 이어집니다. 이러한 측면 중 일부는 자동화 편향과 관련이 있습니다.

이 시뮬레이션 연구에서 연구자들은 AI 기반 임상 의사 결정 지원 도구를 사용하여 임상적 불확실성이 높은 영역에서 의학적 결정이 수정되는지 여부를 측정하려고 합니다. ICU에서 패혈증(장기 부전으로 인한 심각한 감염)이 있는 성인 환자에게 의사가 투여한 정맥 수액(IVF) 및 승압제 용량이 가상 AI가 제안한 용량을 공개한 결과 어떻게 변화하는지 측정합니다. 패혈증 소생술 분야는 체계화되어 있지 않으며, 높은 불확실성으로 인해 실제로 높은 변동성을 초래합니다. 이 연구는 AI 임상의를 구체적으로 언급하지 않을 것입니다(Komorowski et al., 2018). 대신 조사관은 다른 임상 환경(예: 모델 훈련에 사용된 소스 데이터와 다른 국가의 데이터를 사용하여 소급 검증된 모델)의 후향적 데이터에 대한 효과의 일부 증거가 있지만 전향적 AI가 없는 가상 AI를 설명합니다. 효과 또는 안전성의 증거. 따라서 이 가상의 AI가 안전하지 않은 제안을 제공할 수 있습니다. 조사관은 안전하지 않은 AI 제안(무작위 순서)을 의도적으로 도입하여 이를 감지할 때 참가자의 민감도를 측정합니다.

조사관은 어떤 참가자 특성이 AI의 영향을 받을 가능성 증가와 연결되어 있는지 조사하고 미리 지정된 여러 하위 그룹 분석을 수행합니다. AI에 대해 긍정적이거나 부정적인 태도를 가진 사람들을 구분합니다.

연구 유형

관찰

등록 (실제)

38

연락처 및 위치

이 섹션에서는 연구를 수행하는 사람들의 연락처 정보와 이 연구가 수행되는 장소에 대한 정보를 제공합니다.

연구 장소

      • London, 영국, W2 1PG
        • Imperial College Hospitals NHS Trust

참여기준

연구원은 적격성 기준이라는 특정 설명에 맞는 사람을 찾습니다. 이러한 기준의 몇 가지 예는 개인의 일반적인 건강 상태 또는 이전 치료입니다.

자격 기준

공부할 수 있는 나이

18년 이상 (성인, 고령자)

건강한 자원 봉사자를 받아들입니다

예

연구 대상 성별

모두

샘플링 방법

비확률 샘플

연구 인구

Junior (senior house officer) 또는 Senior (registrar/fellow/consultant) ICU 의사

설명

포함 기준:

  • Junior (senior house officer) 또는 Senior (registrar/fellow/consultant) ICU 의사

제외 기준:

  • 포함 기준을 충족하지 않는 참가자.

공부 계획

이 섹션에서는 연구 설계 방법과 연구가 측정하는 내용을 포함하여 연구 계획에 대한 세부 정보를 제공합니다.

연구는 어떻게 설계됩니까?

디자인 세부사항

코호트 및 개입

그룹/코호트
개입 / 치료
ICU 임상의
해당 없음 - 개입이 없습니다. 임상의는 가상 AI의 제안을 검토합니다.

연구는 무엇을 측정합니까?

주요 결과 측정

결과 측정
측정값 설명
기간
ICU 임상의에 대한 AI의 영향
기간: 3 개월
ICU 임상의에 대한 AI의 영향은 다음과 같은 범주로 나뉩니다: 안전/불안전, 주니어/시니어 및 AI에 대한 긍정적/부정적 태도에 따라 전체 및 계층화.
3 개월

2차 결과 측정

결과 측정
측정값 설명
기간
참가자의 특성
기간: 3 개월
시뮬레이션에 참여하는 사람들의 특성은 무엇이며 이것이 의사 결정에 어떤 영향을 미칩니 까?
3 개월
AI에 대한 신뢰
기간: 3 개월
ICU 임상의는 AI 시스템을 얼마나 신뢰합니까?
3 개월
참가자의 결정에 대한 확신
기간: 3 개월
임상의가 AI 시스템을 얼마나 신뢰하는지
3 개월
AI 설명에 주의를 기울인 시간의 비율
기간: 3 개월
시뮬레이션 중에 주의를 집중하는 곳
3 개월

공동 작업자 및 조사자

여기에서 이 연구와 관련된 사람과 조직을 찾을 수 있습니다.

연구 기록 날짜

이 날짜는 ClinicalTrials.gov에 대한 연구 기록 및 요약 결과 제출의 진행 상황을 추적합니다. 연구 기록 및 보고된 결과는 공개 웹사이트에 게시되기 전에 특정 품질 관리 기준을 충족하는지 확인하기 위해 국립 의학 도서관(NLM)에서 검토합니다.

연구 주요 날짜

연구 시작 (실제)

2022년 7월 22일

기본 완료 (실제)

2022년 10월 31일

연구 완료 (실제)

2022년 10월 31일

연구 등록 날짜

최초 제출

2022년 8월 4일

QC 기준을 충족하는 최초 제출

2022년 8월 8일

처음 게시됨 (실제)

2022년 8월 10일

연구 기록 업데이트

마지막 업데이트 게시됨 (추정)

2023년 2월 27일

QC 기준을 충족하는 마지막 업데이트 제출

2023년 2월 24일

마지막으로 확인됨

2023년 2월 1일

추가 정보

이 연구와 관련된 용어

키워드

기타 연구 ID 번호

  • 22CX7592

개별 참가자 데이터(IPD) 계획

개별 참가자 데이터(IPD)를 공유할 계획입니까?

아니요

IPD 계획 설명

개별 참가자 데이터는 연구 팀에서만 검토합니다.

약물 및 장치 정보, 연구 문서

미국 FDA 규제 의약품 연구

아니

미국 FDA 규제 기기 제품 연구

아니

이 정보는 변경 없이 clinicaltrials.gov 웹사이트에서 직접 가져온 것입니다. 귀하의 연구 세부 정보를 변경, 제거 또는 업데이트하도록 요청하는 경우 register@clinicaltrials.gov. 문의하십시오. 변경 사항이 clinicaltrials.gov에 구현되는 즉시 저희 웹사이트에도 자동으로 업데이트됩니다. .

구독하다