Testing an AI Tool to Help Primary Care Clinicians With Specialty Consultation Questions (SAGE)
Physician Usability and Output Quality Evaluation of a Retrieval-Augmented Language Model System for Specialty Medical Consultation: A Human-Computer Interaction Study
The goal of this study is to test an artificial intelligence (AI) tool called SAGE. SAGE helps primary care doctors with questions that often need a specialist. Primary care doctors are the doctors people usually see first. SAGE reviews a case and suggests what a specialist might advise.
The main questions it aims to answer are:
- Do doctors make sound, timely care decisions when they use SAGE?
- Do those decisions match what a specialist would advise?
Researchers will compare the decisions doctors make with and without SAGE.
Doctors in the study will:
- Review made-up patient cases (these are not real patients)
- Make a decision for each case, their usual way and with SAGE
Studienübersicht
Status
Status
Bedingungen
Bedingungen
Intervention / Behandlung
Intervention / Behandlung
Studientyp
Studientyp
Einschreibung (Geschätzt)
Einschreibung
Phase
Phase
- Unzutreffend
Kontakte und Standorte
Studienorte
-
-
California
-
Stanford, California, Vereinigte Staaten, 94305
- Stanford University
-
Kontakt:
- Jonathan Chen, MD, PhD
- Telefonnummer: 650-725-3655
- E-Mail: jonc101@stanford.edu
-
-
Teilnahmekriterien
Zulassungskriterien
Zulassungskriterien
Studienberechtigtes Alter
- Erwachsene
- Älterer Erwachsener
Akzeptiert gesunde Freiwillige
Beschreibung
Inclusion Criteria:
- Physician practicing in primary care internal medicine and/or family medicine
- Attending physician, or resident physician at postgraduate year 2 (PGY-2) or higher
- Stanford-affiliated (faculty, staff, or trainee)
- Able to complete a single, approximately 60-minute remote (Zoom) session conducted in English
Exclusion Criteria:
- Not currently practicing in primary care internal medicine or family medicine
- Member of the study team or otherwise involved in the development of SAGE
- Unable to complete the remote study session
Studienplan
Wie ist die Studie aufgebaut?
Designdetails
- Hauptzweck: Versorgungsforschung
- Zuteilung: N / A
- Interventionsmodell: Einzelgruppenzuweisung
- Maskierung: Keine (Offenes Etikett)
Anzahl der Arme
Waffen und Interventionen
Teilnehmergruppe / ArmTeilnehmergruppe / Arm |
Intervention / BehandlungIntervention / Behandlung |
|---|---|
|
Experimental: Primary care physicians
Primary care physicians make management decisions on synthetic patient cases.
Each physician reviews four cases in random order: two with SAGE (AI clinical decision support) and two using a standard eConsult approach.
|
SAGE is an artificial intelligence (AI) based clinical decision support tool.
It generates specialty-informed recommendations for a primary care consultation question.
Physicians review the SAGE output while making a management decision for the synthetic case.
A standard electronic consultation (eConsult) format, without SAGE.
Physicians review this information while making a management decision for the synthetic case.
|
Was misst die Studie?
Primäre Ergebnismessungen
Primäre Ergebnismessungen
Ergebnis Maßnahme |
Maßnahmenbeschreibung |
Zeitfenster |
|---|---|---|
|
Clinical actionability of the clinician's decision
Zeitfenster: Post-session independent review, through study completion (up to approximately 2 months)
|
For each case, independent reviewers judge whether the physician's decision is clinically actionable, meaning the physician can act on it now rather than wait for a specialist.
The outcome is the proportion of cases judged actionable, measured separately for decisions made with SAGE and for decisions made the standard way.
|
Post-session independent review, through study completion (up to approximately 2 months)
|
|
Concordance of the clinician's decision with the specialist reference answer
Zeitfenster: Post-session independent review, through study completion (up to approximately 2 months)
|
Agreement between the physician's management decision and a specialist reference answer, rated by independent reviewers, with inter-rater agreement summarized.
Assessed for decisions made with SAGE and for decisions made the standard way.
|
Post-session independent review, through study completion (up to approximately 2 months)
|
Sekundäre Ergebnismessungen
Sekundäre Ergebnismessungen
Ergebnis Maßnahme |
Maßnahmenbeschreibung |
Zeitfenster |
|---|---|---|
|
System usability (System Usability Scale, SUS)
Zeitfenster: End of study session (Day 1, approximately 60 minutes)
|
Perceived usability of SAGE measured with the 10-item System Usability Scale (SUS), scored from 0 to 100.
|
End of study session (Day 1, approximately 60 minutes)
|
|
Order acceptance in the SAGE condition
Zeitfenster: During study session (Day 1)
|
Proportion of SAGE-suggested orders that the clinician accepts, assessed in the SAGE condition.
|
During study session (Day 1)
|
|
Time to complete case review
Zeitfenster: During study session (Day 1)
|
Time (in minutes) taken to review each case and reach a management decision, compared between the SAGE and standard eConsult conditions.
|
During study session (Day 1)
|
Mitarbeiter und Ermittler
Sponsor
Sponsor
Ermittler
Ermittler
- Hauptermittler: Jonathan Chen, MD, PhD, Stanford University
Studienaufzeichnungsdaten
Haupttermine studieren
Studienbeginn (Geschätzt)
Studienbeginn
Primärer Abschluss (Geschätzt)
Primärer Abschluss
Studienabschluss (Geschätzt)
Studienabschluss
Studienanmeldedaten
Zuerst eingereicht
Zuerst eingereicht
Zuerst eingereicht, das die QC-Kriterien erfüllt hat
Zuerst eingereicht, das die QC-Kriterien erfüllt hat
Zuerst gepostet (Tatsächlich)
Zuerst gepostet
Studienaufzeichnungsaktualisierungen
Letztes Update gepostet (Tatsächlich)
Letztes Update gepostet
Letztes eingereichtes Update, das die QC-Kriterien erfüllt
Letztes eingereichtes Update, das die QC-Kriterien erfüllt
Zuletzt verifiziert
Zuletzt verifiziert
Mehr Informationen
Begriffe im Zusammenhang mit dieser Studie
Schlüsselwörter
Andere Studien-ID-Nummern
Andere Studien-ID-Nummern
- 85430
Plan für individuelle Teilnehmerdaten (IPD)
Planen Sie, individuelle Teilnehmerdaten (IPD) zu teilen?
Arzneimittel- und Geräteinformationen, Studienunterlagen
Studiert ein von der US-amerikanischen FDA reguliertes Arzneimittelprodukt
Studiert ein von der US-amerikanischen FDA reguliertes Geräteprodukt
Diese Informationen wurden ohne Änderungen direkt von der Website clinicaltrials.gov abgerufen. Wenn Sie Ihre Studiendaten ändern, entfernen oder aktualisieren möchten, wenden Sie sich bitte an register@clinicaltrials.gov. Sobald eine Änderung auf clinicaltrials.gov implementiert wird, wird diese automatisch auch auf unserer Website aktualisiert .