Effects of Agent-assisted, LLM-assisted and Traditional Workflows on Diagnosis and Management Planning at Admission
Effects of Agent-assisted, LLM-assisted and Traditional Workflows on Diagnosis and Management Planning at Admission: A Randomized Controlled Study
The goal of this clinical trial is to evaluate whether AI-assisted workflows improve physicians' admission diagnosis and management planning performance on standardized simulated inpatient cases, among practicing internal medicine and surgery physicians across all seniority levels and across three tiers of the Chinese healthcare system.
The main questions it aims to answer are:
- Does the Agent-assisted workflow yield better structured admission diagnosis and management planning scores than standalone LLM assistance?
- Does the Agent-assisted workflow outperform the traditional workflow without AI tools? Researchers will compare three parallel groups (traditional workflow group, LLM-assisted group, Agent-assisted group) to determine whether the Agent tool can improve diagnostic accuracy and efficiency.
Participants will:
- Be recruited from 15 hospitals in China and participate remotely under video proctoring
- Be randomly assigned to one of the three fixed workflows, with randomization stratified by hospital tier, specialty and seniority
- Complete 6 anonymized simulated HIS admission cases within one hour
- Submit structured answers for each case covering principal diagnosis, secondary diagnoses, differential diagnoses, diagnostic justification, next diagnostic or therapeutic steps, consultation and referral decisions, and diagnostic confidence
- Have their operation logs and time consumption recorded automatically by the study platform
Přehled studie
Postavení
Postavení
Podmínky
Podmínky
Intervence / Léčba
Intervence / Léčba
Typ studie
Typ studie
Zápis (Odhadovaný)
Zápis
Fáze
Fáze
- Nelze použít
Kontakty a umístění
Studijní kontakt
Studijní kontakt
- Jméno: Yixin Zhang
- Telefonní číslo: +86 19157950225
- E-mail: 12518552@zju.edu.cn
Studijní místa
-
-
Zhejiang
-
Hangzhou, Zhejiang, Čína, 310009
- 2nd Affiliated Hospital, School of Medicine, Zhejiang University
-
Kontakt:
- Human Subject Research Ethics Committee
- Telefonní číslo: +86 0571 87783759
- E-mail: keyanlunli_zheer@163.com
-
-
Kritéria účasti
Kritéria způsobilosti
Kritéria způsobilosti
Věk způsobilý ke studiu
- Dospělý
- Starší dospělý
Přijímá zdravé dobrovolníky
Popis
Inclusion Criteria
- Hold a Medical Practitioner Qualification Certificate and/or Medical License, or be a recognized standardized resident physician; able to independently read electronic medical records, laboratory and imaging reports on an HIS.
- Currently engaged in clinical work in internal medicine or surgery at one of the 15 participating hospitals.
- Able to complete the case assessment in one continuous hour without breaks.
- Able to participate remotely under video proctoring, with a stable internet connection and a working camera.
- Voluntarily agree to participate and sign the informed consent form, including the declaration not to use unauthorized AI tools during the assessment.
- Have not participated in case drafting, review, rubric development, or any activity that may leak the reference standard.
Exclusion Criteria
- Have previously accessed the official test cases or reference standard of this study.
- Unable to complete the training module, qualification test, or all experimental tasks.
- Have conflicts of interest, e.g. participation in developing core algorithms of the tested system.
- Unwilling to comply with remote proctoring, including keeping the camera on throughout.
- Judged unsuitable by the investigators.
Studijní plán
Jak je studie koncipována?
Detaily designu
- Primární účel: Výzkum zdravotnických služeb
- Přidělení: Randomizované
- Intervenční model: Paralelní přiřazení
- Maskování: Singl
Počet zbraní
Zbraně a zásahy
Skupina účastníků / ArmSkupina účastníků / Arm |
Intervence / LéčbaIntervence / Léčba |
|---|---|
|
Aktivní komparátor: Tradiční skupina
|
Conventional resources only: the pre-admission clinical record, standard search engines.
No AI assistance.
|
|
Experimentální: Agent-assisted group
|
Conventional resources (pre-admission clinical record, search engines) plus an in-system Agent entry that automatically reads the full record and report images, produces a structured summary with source-text tracing, and supports multi-turn Q&A and one-click editable drafts.
|
|
Experimentální: LLM-assisted group
|
Conventional resources plus an in-system multi-turn AI dialogue entry.
The AI does not automatically read the record; participants paste text or send partial screenshots.
|
Co je měření studie?
Primární výstupní opatření
Primární výstupní opatření
Měření výsledku |
Popis opatření |
Časové okno |
|---|---|---|
|
Mean Normalized Structured Score
Časové okno: Within one-hour study
|
Mean of the rescaled case scores (each case rescaled to 100), divided by the number of cases completed; range 0 to 100.
|
Within one-hour study
|
Sekundární výstupní opatření
Sekundární výstupní opatření
Měření výsledku |
Popis opatření |
Časové okno |
|---|---|---|
|
Degree of Adherence to AI-Generated Recommendations
Časové okno: Within one-hour study
|
Degree to which the submitted answer incorporates AI output.
Assessed in the Agent and LLM arms only.
|
Within one-hour study
|
|
Active Response Time per Case
Časové okno: Within one-hour study
|
Active response time in seconds for each case, recorded automatically by the platform.Time is counted per case while that case's response page is active.
|
Within one-hour study
|
Spolupracovníci a vyšetřovatelé
Sponzor
Sponzor
Spolupracovníci
Spolupracovníci
Vyšetřovatelé
Vyšetřovatelé
- Studijní židle: Yuan Ding, Second Affiliated Hospital, Zhejiang University, School of Medicine
Termíny studijních záznamů
Hlavní termíny studia
Začátek studia (Odhadovaný)
Začátek studia
Primární dokončení (Odhadovaný)
Primární dokončení
Dokončení studie (Odhadovaný)
Dokončení studie
Termíny zápisu do studia
První předloženo
První předloženo
První předloženo, které splnilo kritéria kontroly kvality
První předloženo, které splnilo kritéria kontroly kvality
První zveřejněno (Aktuální)
První zveřejněno
Aktualizace studijních záznamů
Poslední zveřejněná aktualizace (Aktuální)
Poslední zveřejněná aktualizace
Odeslaná poslední aktualizace, která splnila kritéria kontroly kvality
Odeslaná poslední aktualizace, která splnila kritéria kontroly kvality
Naposledy ověřeno
Naposledy ověřeno
Více informací
Termíny související s touto studií
Klíčová slova
Další identifikační čísla studie
Další identifikační čísla studie
- 2026-0977
Plán pro data jednotlivých účastníků (IPD)
Plánujete sdílet data jednotlivých účastníků (IPD)?
Informace o lécích a zařízeních, studijní dokumenty
Studuje lékový produkt regulovaný americkým FDA
Studuje produkt zařízení regulovaný americkým úřadem FDA
Tyto informace byly beze změn načteny přímo z webu clinicaltrials.gov. Máte-li jakékoli požadavky na změnu, odstranění nebo aktualizaci podrobností studie, kontaktujte prosím register@clinicaltrials.gov. Jakmile bude změna implementována na clinicaltrials.gov, bude automaticky aktualizována i na našem webu .