Testing an AI Tool to Help Primary Care Clinicians With Specialty Consultation Questions (SAGE)
Physician Usability and Output Quality Evaluation of a Retrieval-Augmented Language Model System for Specialty Medical Consultation: A Human-Computer Interaction Study
The goal of this study is to test an artificial intelligence (AI) tool called SAGE. SAGE helps primary care doctors with questions that often need a specialist. Primary care doctors are the doctors people usually see first. SAGE reviews a case and suggests what a specialist might advise.
The main questions it aims to answer are:
- Do doctors make sound, timely care decisions when they use SAGE?
- Do those decisions match what a specialist would advise?
Researchers will compare the decisions doctors make with and without SAGE.
Doctors in the study will:
- Review made-up patient cases (these are not real patients)
- Make a decision for each case, their usual way and with SAGE
연구 개요
상태
상태
정황
정황
개입 / 치료
개입 / 치료
연구 유형
연구 유형
등록 (추정된)
등록
단계
단계
- 해당 없음
연락처 및 위치
연구 장소
-
-
California
-
Stanford, California, 미국, 94305
- Stanford University
-
연락하다:
- Jonathan Chen, MD, PhD
- 전화번호: 650-725-3655
- 이메일: jonc101@stanford.edu
-
-
참여기준
자격 기준
자격 기준
공부할 수 있는 나이
- 성인
- 고령자
건강한 자원 봉사자를 받아들입니다
설명
Inclusion Criteria:
- Physician practicing in primary care internal medicine and/or family medicine
- Attending physician, or resident physician at postgraduate year 2 (PGY-2) or higher
- Stanford-affiliated (faculty, staff, or trainee)
- Able to complete a single, approximately 60-minute remote (Zoom) session conducted in English
Exclusion Criteria:
- Not currently practicing in primary care internal medicine or family medicine
- Member of the study team or otherwise involved in the development of SAGE
- Unable to complete the remote study session
공부 계획
연구는 어떻게 설계됩니까?
디자인 세부사항
- 주 목적: 건강 서비스 연구
- 할당: 해당 없음
- 중재 모델: 단일 그룹 할당
- 마스킹: 없음(오픈 라벨)
팔의 수
무기와 개입
참가자 그룹 / 팔참가자 그룹 / 팔 |
개입 / 치료개입 / 치료 |
|---|---|
|
실험적: Primary care physicians
Primary care physicians make management decisions on synthetic patient cases.
Each physician reviews four cases in random order: two with SAGE (AI clinical decision support) and two using a standard eConsult approach.
|
SAGE is an artificial intelligence (AI) based clinical decision support tool.
It generates specialty-informed recommendations for a primary care consultation question.
Physicians review the SAGE output while making a management decision for the synthetic case.
A standard electronic consultation (eConsult) format, without SAGE.
Physicians review this information while making a management decision for the synthetic case.
|
연구는 무엇을 측정합니까?
주요 결과 측정
주요 결과 측정
결과 측정 |
측정값 설명 |
기간 |
|---|---|---|
|
Clinical actionability of the clinician's decision
기간: Post-session independent review, through study completion (up to approximately 2 months)
|
For each case, independent reviewers judge whether the physician's decision is clinically actionable, meaning the physician can act on it now rather than wait for a specialist.
The outcome is the proportion of cases judged actionable, measured separately for decisions made with SAGE and for decisions made the standard way.
|
Post-session independent review, through study completion (up to approximately 2 months)
|
|
Concordance of the clinician's decision with the specialist reference answer
기간: Post-session independent review, through study completion (up to approximately 2 months)
|
Agreement between the physician's management decision and a specialist reference answer, rated by independent reviewers, with inter-rater agreement summarized.
Assessed for decisions made with SAGE and for decisions made the standard way.
|
Post-session independent review, through study completion (up to approximately 2 months)
|
2차 결과 측정
2차 결과 측정
결과 측정 |
측정값 설명 |
기간 |
|---|---|---|
|
System usability (System Usability Scale, SUS)
기간: End of study session (Day 1, approximately 60 minutes)
|
Perceived usability of SAGE measured with the 10-item System Usability Scale (SUS), scored from 0 to 100.
|
End of study session (Day 1, approximately 60 minutes)
|
|
Order acceptance in the SAGE condition
기간: During study session (Day 1)
|
Proportion of SAGE-suggested orders that the clinician accepts, assessed in the SAGE condition.
|
During study session (Day 1)
|
|
Time to complete case review
기간: During study session (Day 1)
|
Time (in minutes) taken to review each case and reach a management decision, compared between the SAGE and standard eConsult conditions.
|
During study session (Day 1)
|
공동 작업자 및 조사자
수사관
수사관
- 수석 연구원: Jonathan Chen, MD, PhD, Stanford University
연구 기록 날짜
연구 주요 날짜
연구 시작 (추정된)
연구 시작
기본 완료 (추정된)
기본 완료
연구 완료 (추정된)
연구 완료
연구 등록 날짜
최초 제출
최초 제출
QC 기준을 충족하는 최초 제출
QC 기준을 충족하는 최초 제출
처음 게시됨 (실제)
처음 게시됨
연구 기록 업데이트
마지막 업데이트 게시됨 (실제)
마지막 업데이트 게시됨
QC 기준을 충족하는 마지막 업데이트 제출
QC 기준을 충족하는 마지막 업데이트 제출
마지막으로 확인됨
마지막으로 확인됨
추가 정보
이 연구와 관련된 용어
기타 연구 ID 번호
기타 연구 ID 번호
- 85430
개별 참가자 데이터(IPD) 계획
개별 참가자 데이터(IPD)를 공유할 계획입니까?
약물 및 장치 정보, 연구 문서
미국 FDA 규제 의약품 연구
미국 FDA 규제 기기 제품 연구
이 정보는 변경 없이 clinicaltrials.gov 웹사이트에서 직접 가져온 것입니다. 귀하의 연구 세부 정보를 변경, 제거 또는 업데이트하도록 요청하는 경우 register@clinicaltrials.gov. 문의하십시오. 변경 사항이 clinicaltrials.gov에 구현되는 즉시 저희 웹사이트에도 자동으로 업데이트됩니다. .