Questa pagina è stata tradotta automaticamente e l'accuratezza della traduzione non è garantita. Si prega di fare riferimento al Versione inglese per un testo di partenza.

Massive Online Open Validation and Evaluation of Large Language Models for Resource Constrained Settings - a Study of Contextual Awareness, Safety, and Accuracy (SilentMOOVE)

29 ottobre 2026 aggiornato da: Rita Szekely, Ecole Polytechnique Fédérale de Lausanne

Healthcare settings in low and middle income countries, clinicians are frequently required to manage a wide range of acute conditions under the constraints of time pressure, limited diagnostic resources, and variable availability of up-to-date clinical guidelines. Large language models (LLMs), which can synthesize and generate medical information in a natural language, have been proposed as potential clinical decision support tools. Most evaluations of LLMs in medicine have relied on standardized benchmark examinations or hypothetical case vignettes, often derived from high-income country contexts. MOOVE (Massive online open validation and evaluation) framework was developed to address the need for rigorous and context-sensitive evaluation of LLMs through a staged approach.

Study is a non-interventional, prospective study designed to test LLMs safely in real clinical settings, evaluate their performance against human care, and explore how feasible their future implementation in healthcare might be.

Panoramica dello studio

Stato

Stato

Indica lo stato di reclutamento attuale o lo stato di accesso ampliato.
Reclutamento

Condizioni

Condizioni

La malattia, il disturbo, la sindrome, la malattia o la lesione oggetto di studio. Su ClinicalTrials.gov, le condizioni possono includere anche altri problemi relativi alla salute, come la durata della vita, la qualità della vita e i rischi per la salute.

Intervento / Trattamento

Intervento / Trattamento

Un processo o un'azione che è al centro di uno studio clinico. Gli interventi includono farmaci, dispositivi medici, procedure, vaccini e altri prodotti sperimentali o già disponibili. Gli interventi possono anche includere approcci non invasivi, come l'educazione o la modifica della dieta e dell'esercizio fisico.

Descrizione dettagliata

SilentMOOVE (Silent massive online open validation and evaluation) phase of the MOOVE project, which represents the intermediate step between previous hypothetical testing study and future interventional trial. In silentMOOVE, patients are prospectively recruited during routine clinical care in participating outpatient health facilities. Clinical and demographic data collected during consultations are used to prompt LLMs retrospectively without influencing patient care. The routine diagnosis and care plan of the treating clinicians (human care plan) are also captured. LLM outputs are subsequently evaluated by a panel of independent clinical experts against the human care plan as a comparator. Patient clinical outcomes are collected on 7 and 28 days after enrolment to establish a baseline and to be used in the evaluation of LLMs.

The rationale for this study is to generate robust, prospective evidence on the safety and performance of LLMs in real-world clinical contexts, while minimizing risk to participants by fully separating model evaluation from clinical decision-making.

Study also provides the opportunity to assess the usability and gather early insights on implementation readiness of the LLM prompting interface. For this reason, besides evaluating the performance and safety of various LLMs, this study includes an implementation feasibility component. These activities are needed to better understand the context and any amelioration needed before future implementation in healthcare settings. Learnings from the implementation feasibility research will be shared among countries, especially applicable within a given use case. Implementation feasibility research will be grounded in artificial intelligence in healthcare implementation frameworks and other Implementation science frameworks Primary objectives

  1. To evaluate the overall performance profile of LLMs on real-world clinical scenarios using the human care plan as a comparator
  2. To assess whether each LLM being evaluated is not inferior to the human comparator with respect to safety on real-world clinical scenarios, based on structured retrospective assessment of model- and human-generated care plans.

Implementation feasibility research objectives

  1. Assess clinician experience with the LLM prompting interface: ease of use, time burden, and alignment with clinical workflow.
  2. Gather clinician impressions of LLM output disclosed and reviewed post-consultation: clarity, relevance, perceived safety, alignment with local clinical guidelines, and trust in LLM outputs.
  3. Facilitators and Barriers to Future Implementation: Identify site-level infrastructure, staff capacity, and organizational readiness factors that may support or hinder future implementation of LLM feedback in real-time

Tipo di studio

Tipo di studio

Descrive la natura di uno studio clinico. I tipi di studio includono studi interventistici (chiamati anche studi clinici), studi osservazionali (compresi i registri dei pazienti) e accesso allargato.
Osservativo

Iscrizione (Stimato)

Iscrizione

Il numero di partecipanti a uno studio clinico. L'iscrizione "anticipata" è il numero target di partecipanti di cui i ricercatori hanno bisogno per lo studio.
3000

Contatti e Sedi

Questa sezione fornisce i recapiti di coloro che conducono lo studio e informazioni su dove viene condotto lo studio.

Contatto studio

Contatto studio

Il nome e le informazioni di contatto della persona che può rispondere alle domande di iscrizione per uno studio clinico. Ogni sede in cui viene condotto lo studio può anche avere un contatto specifico, che potrebbe essere maggiormente in grado di rispondere a tali domande.

Backup dei contatti dello studio

Luoghi di studio

  • Kenya
    • Nairobi County
      • Nairobi, Nairobi County, Kenya, 19676
        • Non ancora reclutamento
        • University of Nairobi College of health sciences
        • Contatto:
        • Investigatore principale:
          • Paul Macharia
  • Malawi
    • Blantyre
      • Blantyre, Blantyre, Malawi, 303
        • Reclutamento
        • Malawi University of Business and Applied Sciences (MUBAS)
        • Contatto:
        • Investigatore principale:
          • Chiyembekezo Kachimanga
  • Tanzania
    • Dar es Salaam Region
      • Dar es Salaam, Dar es Salaam Region, Tanzania
        • Non ancora reclutamento
        • Muhimbili University of Health and Allied Sciences (MUHAS)
        • Contatto:
        • Investigatore principale:
          • Hendry R Sawe
    • Dodoma
      • Dodoma, Dodoma, Tanzania
        • Reclutamento
        • Ifakara Health Institute (IHI)
        • Contatto:
        • Investigatore principale:
          • Grace Mhalu

Criteri di partecipazione

I ricercatori cercano persone che corrispondano a una certa descrizione, chiamata criteri di ammissibilità. Alcuni esempi di questi criteri sono le condizioni generali di salute di una persona o trattamenti precedenti.

Criteri di ammissibilità

Criteri di ammissibilità

I requisiti chiave che devono soddisfare le persone che vogliono partecipare a uno studio clinico o le caratteristiche che devono avere. I criteri di ammissibilità sono costituiti sia da criteri di inclusione (necessari a una persona per partecipare allo studio) sia da criteri di esclusione (che impediscono a una persona di partecipare). I tipi di criteri di ammissibilità includono se uno studio accetta volontari sani, ha requisiti di età o gruppo di età o è limitato dal sesso.

Età idonea allo studio

Non più vecchio di 1 giorno (Bambino)

Accetta volontari sani

No

Sessi ammissibili allo studio

Tutto

Metodo di campionamento

Campione non probabilistico

Popolazione di studio

The study population consists of patients of any age presenting to participating health facilities for a distinct care-seeking episode related to a clinical condition within the defined use case (e.g. primary care, emergency care).

Both adult and pediatric patients are eligible, reflecting the real-world case mix of the participating facilities.

Descrizione

Inclusion Criteria:

  • Presentation at a participating facility for a distinct care seeking episode related to a clinical condition.
  • Use case specific inclusion criteria
  • Willing and able to provide written informed consent.

Exclusion Criteria:

  • Prolonged care-seeking episode.
  • Previously enrolled in the same study.
  • Use case specific exclusion criteria
  • Immediate life-threatening condition requiring emergency intervention precluding study procedures.

Piano di studio

Questa sezione fornisce i dettagli del piano di studio, compreso il modo in cui lo studio è progettato e ciò che lo studio sta misurando.

Come è strutturato lo studio?

Dettagli di progettazione

  • Modelli osservazionali: COHORT
  • Prospettive temporali: PROSPECTIVE

Coorti e interventi

Gruppo / Coorte

Gruppo / Coorte

Un gruppo o sottogruppo di partecipanti a uno studio osservazionale che viene valutato per gli esiti biomedici o sanitari.
Intervento / Trattamento

Intervento / Trattamento

Un processo o un'azione che è al centro di uno studio clinico. Gli interventi includono farmaci, dispositivi medici, procedure, vaccini e altri prodotti sperimentali o già disponibili. Gli interventi possono anche includere approcci non invasivi, come l'educazione o la modifica della dieta e dell'esercizio fisico.
Non interventional study

Non interventional study
Altro: Non interventional study

Non interventional study

Cosa sta misurando lo studio?

Misure di risultato primarie

Misure di risultato primarie

Nel protocollo di uno studio clinico, la misura dell'esito pianificato più importante per valutare l'effetto di un intervento/trattamento. La maggior parte degli studi clinici ha una misura di esito primaria, ma alcuni ne hanno più di una.
Misura del risultato
Misura Descrizione
Lasso di tempo
Performance Scores
Lasso di tempo: Day 0

Scoring is between -2 to +2 where '-2' means minimum, and '-2' means maximum. Score to be >0. Higher score means better outcome.
Day 0
Safety performance threshold achievement
Lasso di tempo: 'Day 7' and 'Day 28'

The mean safety score (minimum is -2 and maximum is +2) is formally compared between each LLM and the human comparator to assess non-inferiority within a UCA (use case appendix) dependent pre-specified margin.
'Day 7' and 'Day 28'

Misure di risultato secondarie

Misure di risultato secondarie

Nel protocollo di uno studio clinico, una misura dell'esito pianificato che non è importante quanto la misura dell'esito primario per valutare l'effetto di un intervento ma è comunque di interesse. La maggior parte degli studi clinici ha più di una misura di esito secondaria.
Misura del risultato
Misura Descrizione
Lasso di tempo
Implementation Feasibility Research
Lasso di tempo: week 4 until study completion

Usability: Quantitative scoring rubric for clinicians; semi-structured interviews with clinicians; evaluation methods will be used
week 4 until study completion
Implementation Feasibility Research
Lasso di tempo: week 4 until study completion

Workflow integration feasibility: This will be evaluated using semi structured interviews and questionnaires
week 4 until study completion
Implementation Feasibility Research
Lasso di tempo: week 4 until study completion

Acceptability and perceived trust: This will be evaluated with Quantitative scoring rubric for clinicians; semi-structured interviews with clinicians
week 4 until study completion
Implementation Feasibility Research
Lasso di tempo: week 4 until study completion

Implementation facilitators and barriers: This will be evaluated using semi-structured interviews and questionnaires
week 4 until study completion

Collaboratori e investigatori

Qui è dove troverai le persone e le organizzazioni coinvolte in questo studio.

Sponsor

Sponsor

L'organizzazione o la persona che avvia lo studio e che ha autorità e controllo sullo studio.
Ecole Polytechnique Fédérale de Lausanne

Collaboratori

Collaboratori

Un'organizzazione diversa dallo sponsor che fornisce supporto per uno studio clinico. Questo supporto può includere attività relative al finanziamento, alla progettazione, all'implementazione, all'analisi dei dati o al reporting.
Ifakara Health Institute
Muhimbili University of Health and Allied Sciences
University of Nairobi, Kenya
Malawi University of Business and Applied Sciences (MUBAS) WASHTED Centre

Investigatori

Investigatori

Un ricercatore coinvolto in uno studio clinico. I termini correlati includono il ricercatore principale del sito, il ricercatore secondario del sito, il presidente dello studio, il direttore dello studio e il ricercatore principale dello studio.
  • Investigatore principale: Mary-Anne Hartley, LIGHT

Pubblicazioni e link utili

La persona responsabile dell'inserimento delle informazioni sullo studio fornisce volontariamente queste pubblicazioni. Questi possono riguardare qualsiasi cosa relativa allo studio.

Pubblicazioni generali

  • 1. Arora RK, Wei J, Hicks RS, Bowman P, et al. HealthBench: Evaluating Large Language Models Towards Improved Human Health. Preprint [Under Review]. 2025. 2. Burnell R, Schellaert W, Burden J, Ullman TD, Martinez-Plumed F, Tenenbaum JB, et al. Rethink reporting of evaluation results in AI. Science. 2023;380: 136-138. doi:10.1126/SCIENCE.ADF6369. 3. Hager P, Jungmann F, Holland R, Bhagat K, Hubrecht I, Knauer M, et al. Evaluation and mitigation of the limitations of large language models in clinical decision-making. Nature Medicine 2024 30:9. 2024;30: 2613-2622. doi:10.1038/s41591-024-03097-1. 4. Singhal, K., Azizi, S., Tu, T., Mahdavi, S. S., Wei, J., Chung, H. W., et al. (2023). Large language models encode clinical knowledge. Nature, 620(7972), 172-180. https://doi.org/10.1038/s41586-023-06291-2 5. WHO. Towards the Development of guidance on ethics and governance of artificial intelligence for health. 2019. 6. Azad TD, Krumholz HM, Saria S. Principles to guide clinical AI readiness and move from benchmarks to real-world evaluation. Nature Medicine. 2026;32:802-804. doi:10.1038/s41591-025-04198-1 7. Declaration of Helsinki https://www.wma.net/policies-post/wma-declaration-of-helsinki-ethical-principles-for-medical-research-involving-human-subjects 8. European Parliament and Council of the European Union, 2016. Regulation (EU) 2016/679 (General Data Protection Regulation). Official Journal of the European Union, L119, pp.1-88. 9. International Council for Harmonisation of Technical Requirements for Pharmaceuticals for Human Use (ICH), 2016. Integrated Addendum to ICH E6(R1): Guideline for Good Clinical Practice E6(R2). Step 4, 9 November 2016. 10. U.S. Food and Drug Administration. 21 CFR Part 11-Electronic Records; Electronic Signatures. Code of Federal Regulations. Title 21, Part 11. Revised 2024.

Studiare le date dei record

Queste date tengono traccia dell'avanzamento della registrazione dello studio e dell'invio dei risultati di sintesi a ClinicalTrials.gov. I record degli studi e i risultati riportati vengono esaminati dalla National Library of Medicine (NLM) per assicurarsi che soddisfino specifici standard di controllo della qualità prima di essere pubblicati sul sito Web pubblico.

Studia le date principali

Inizio studio (Effettivo)

Inizio studio

La data effettiva in cui il primo partecipante è stato arruolato in uno studio clinico. La data di inizio dello studio "prevista" è la data che i ricercatori pensano sarà la data di inizio dello studio.
31 agosto 2026

Completamento primario (Stimato)

Completamento primario

La data in cui l'ultimo partecipante a uno studio clinico è stato esaminato o ha ricevuto un intervento per raccogliere i dati finali per la misura dell'esito primario. Il fatto che lo studio clinico sia terminato secondo il protocollo o sia stato interrotto non influisce su questa data. Per gli studi clinici con più di una misura di esito primario con diverse date di completamento, questo termine si riferisce alla data in cui la raccolta dei dati è completata per tutte le misure di esito primario. La data di completamento principale "prevista" è la data che i ricercatori ritengono sarà la data di completamento principale per lo studio.
31 dicembre 2026

Completamento dello studio (Stimato)

Completamento dello studio

La data in cui l'ultimo partecipante a uno studio clinico è stato esaminato o ha ricevuto un intervento/trattamento per raccogliere i dati finali per le misure di esito primarie, le misure di esito secondarie e gli eventi avversi (ovvero l'ultima visita dell'ultimo partecipante). La data di completamento dello studio "prevista" è la data che i ricercatori ritengono sarà la data di completamento dello studio.
31 dicembre 2026

Date di iscrizione allo studio

Primo inviato

Primo inviato

La data in cui lo sponsor o il ricercatore dello studio ha inviato per la prima volta un record di studio a ClinicalTrials.gov. In genere c'è un ritardo di alcuni giorni tra la prima data di invio e la disponibilità del record su ClinicalTrials.gov (la prima data di invio).
9 settembre 2026

Primo inviato che soddisfa i criteri di controllo qualità

Primo inviato che soddisfa i criteri di controllo qualità

La data in cui lo sponsor dello studio o il ricercatore invia per la prima volta un record di studio che è coerente con i criteri di revisione del controllo di qualità (QC) della National Library of Medicine (NLM). Lo sponsor o lo sperimentatore potrebbe dover rivedere e inviare un record di studio una o più volte prima che i criteri di revisione QC di NLM siano soddisfatti. È responsabilità dello sponsor o dello sperimentatore garantire che il record dello studio sia coerente con i criteri di revisione QC NLM.
29 ottobre 2026

Primo Inserito (Effettivo)

Primo Inserito

La data in cui il record dello studio è stato disponibile per la prima volta su ClinicalTrials.gov dopo la conclusione della revisione del controllo di qualità (QC) della National Library of Medicine (NLM). In genere c'è un ritardo di alcuni giorni tra la data in cui lo sponsor dello studio o lo sperimentatore ha presentato il record dello studio e la prima data pubblicata.
3 novembre 2026

Aggiornamenti dei record di studio

Ultimo aggiornamento pubblicato (Effettivo)

Ultimo aggiornamento pubblicato

La data più recente in cui le modifiche al record di uno studio sono state rese disponibili su ClinicalTrials.gov. Potrebbe esserci un ritardo tra il momento in cui le modifiche sono state inviate a ClinicalTrials.gov dallo sponsor o dallo sperimentatore dello studio (data di invio dell'ultimo aggiornamento) e la data di pubblicazione dell'ultimo aggiornamento.
3 novembre 2026

Ultimo aggiornamento inviato che soddisfa i criteri QC

Ultimo aggiornamento inviato che soddisfa i criteri QC

La data più recente in cui lo sponsor dello studio o il ricercatore ha presentato modifiche a un record di studio che sono coerenti con i criteri di revisione del controllo di qualità (QC) della National Library of Medicine (NLM). È responsabilità dello sponsor o dello sperimentatore garantire che il record dello studio sia coerente con i criteri di revisione QC NLM.
29 ottobre 2026

Ultimo verificato

Ultimo verificato

La data più recente in cui lo sponsor dello studio o il ricercatore ha confermato che le informazioni su uno studio clinico su ClinicalTrials.gov sono accurate e aggiornate. Se uno studio con stato di reclutamento di reclutamento; non ancora reclutamento; o attivo, non reclutamento non è stato confermato negli ultimi 2 anni, lo stato di reclutamento dello studio viene mostrato come sconosciuto.
1 ottobre 2026

Maggiori informazioni

Termini relativi a questo studio

Parole chiave

Altri numeri di identificazione dello studio

Altri numeri di identificazione dello studio

Identificatori o numeri ID diversi dal numero NCT assegnati a uno studio clinico dallo sponsor, dai finanziatori o da altri dello studio. Questi numeri possono includere identificatori univoci di altri registri di sperimentazione e numeri di sovvenzioni del National Institutes of Health.
  • LiGHT-26-02
  • INV-076674 (Altro numero di sovvenzione/finanziamento: BILL and Melinda gates foundation)

Piano per i dati dei singoli partecipanti (IPD)

Hai intenzione di condividere i dati dei singoli partecipanti (IPD)?

SÌ

Descrizione del piano IPD

We will share IPD within 12 months of study completion.

Periodo di condivisione IPD

IPD information will be shared within 12 months of study completion.

Criteri di accesso alla condivisione IPD

Will be confirmed within 12 months of study completion

Tipo di informazioni di supporto alla condivisione IPD

  • STUDIO_PROTOCOLLO

Informazioni su farmaci e dispositivi, documenti di studio

Studia un prodotto farmaceutico regolamentato dalla FDA degli Stati Uniti

No

Studia un dispositivo regolamentato dalla FDA degli Stati Uniti

No

Queste informazioni sono state recuperate direttamente dal sito web clinicaltrials.gov senza alcuna modifica. In caso di richieste di modifica, rimozione o aggiornamento dei dettagli dello studio, contattare register@clinicaltrials.gov. Non appena verrà implementata una modifica su clinicaltrials.gov, questa verrà aggiornata automaticamente anche sul nostro sito web .

Impostazioni dei cookie

Utilizziamo i cookie per assicurarci di darti la migliore esperienza sul nostro sito web. Per maggiori dettagli leggi attentamente la nostra Informativa sulla privacy e sui cookie. ...>>>Puoi modificare le tue preferenze o revocare il tuo consenso in qualsiasi momento eliminando i cookie dal tuo sito web o computer come descritto nella policy. Accettalo e scegli le tue preferenze spuntando le caselle corrispondenti nella sezione "Gestisci impostazioni" di seguito. Leggi attentamente i nostri Termini di servizio prima di procedere con l'utilizzo di qualsiasi parte di questo sito web.
«Gestisci impostazioni