Tämä sivu käännettiin automaattisesti, eikä käännösten tarkkuutta voida taata. Katso englanninkielinen versio lähdetekstiä varten.

Massive Online Open Validation and Evaluation of Large Language Models for Resource Constrained Settings - a Study of Contextual Awareness, Safety, and Accuracy (SilentMOOVE)

torstai 29. lokakuuta 2026 päivittänyt: Rita Szekely, Ecole Polytechnique Fédérale de Lausanne

Healthcare settings in low and middle income countries, clinicians are frequently required to manage a wide range of acute conditions under the constraints of time pressure, limited diagnostic resources, and variable availability of up-to-date clinical guidelines. Large language models (LLMs), which can synthesize and generate medical information in a natural language, have been proposed as potential clinical decision support tools. Most evaluations of LLMs in medicine have relied on standardized benchmark examinations or hypothetical case vignettes, often derived from high-income country contexts. MOOVE (Massive online open validation and evaluation) framework was developed to address the need for rigorous and context-sensitive evaluation of LLMs through a staged approach.

Study is a non-interventional, prospective study designed to test LLMs safely in real clinical settings, evaluate their performance against human care, and explore how feasible their future implementation in healthcare might be.

Tutkimuksen yleiskatsaus

Tila

Tila

Ilmaisee nykyisen rekrytointitilan tai laajennetun pääsyn tilan.
Rekrytointi

Ehdot

Ehdot

Sairaus, häiriö, oireyhtymä, sairaus tai vamma, jota tutkitaan. Sivustolla ClinicalTrials.gov olosuhteet voivat sisältää myös muita terveyteen liittyviä kysymyksiä, kuten elinikää, elämänlaatua ja terveysriskejä.

Interventio / Hoito

Interventio / Hoito

Prosessi tai toiminta, joka on kliinisen tutkimuksen painopiste. Interventioihin kuuluvat lääkkeet, lääkinnälliset laitteet, toimenpiteet, rokotteet ja muut tuotteet, jotka ovat joko tutkittavia tai jo saatavilla. Interventiot voivat sisältää myös ei-invasiivisia lähestymistapoja, kuten koulutusta tai ruokavalion ja liikunnan muokkaamista.

Yksityiskohtainen kuvaus

SilentMOOVE (Silent massive online open validation and evaluation) phase of the MOOVE project, which represents the intermediate step between previous hypothetical testing study and future interventional trial. In silentMOOVE, patients are prospectively recruited during routine clinical care in participating outpatient health facilities. Clinical and demographic data collected during consultations are used to prompt LLMs retrospectively without influencing patient care. The routine diagnosis and care plan of the treating clinicians (human care plan) are also captured. LLM outputs are subsequently evaluated by a panel of independent clinical experts against the human care plan as a comparator. Patient clinical outcomes are collected on 7 and 28 days after enrolment to establish a baseline and to be used in the evaluation of LLMs.

The rationale for this study is to generate robust, prospective evidence on the safety and performance of LLMs in real-world clinical contexts, while minimizing risk to participants by fully separating model evaluation from clinical decision-making.

Study also provides the opportunity to assess the usability and gather early insights on implementation readiness of the LLM prompting interface. For this reason, besides evaluating the performance and safety of various LLMs, this study includes an implementation feasibility component. These activities are needed to better understand the context and any amelioration needed before future implementation in healthcare settings. Learnings from the implementation feasibility research will be shared among countries, especially applicable within a given use case. Implementation feasibility research will be grounded in artificial intelligence in healthcare implementation frameworks and other Implementation science frameworks Primary objectives

  1. To evaluate the overall performance profile of LLMs on real-world clinical scenarios using the human care plan as a comparator
  2. To assess whether each LLM being evaluated is not inferior to the human comparator with respect to safety on real-world clinical scenarios, based on structured retrospective assessment of model- and human-generated care plans.

Implementation feasibility research objectives

  1. Assess clinician experience with the LLM prompting interface: ease of use, time burden, and alignment with clinical workflow.
  2. Gather clinician impressions of LLM output disclosed and reviewed post-consultation: clarity, relevance, perceived safety, alignment with local clinical guidelines, and trust in LLM outputs.
  3. Facilitators and Barriers to Future Implementation: Identify site-level infrastructure, staff capacity, and organizational readiness factors that may support or hinder future implementation of LLM feedback in real-time

Opintotyyppi

Opintotyyppi

Kuvaa kliinisen tutkimuksen luonnetta. Tutkimustyyppejä ovat interventiotutkimukset (kutsutaan myös kliinisiksi kokeiksi), havaintotutkimukset (mukaan lukien potilasrekisterit) ja laajennettu pääsy.
Havainnollistava

Ilmoittautuminen (Arvioitu)

Ilmoittautuminen

Kliinisen tutkimuksen osallistujien määrä. "Odotettu" ilmoittautuminen on tavoitemäärä osallistujia, jonka tutkijat tarvitsevat tutkimukseen.
3000

Yhteystiedot ja paikat

Tässä osiossa on tutkimuksen suorittajien yhteystiedot ja tiedot siitä, missä tämä tutkimus suoritetaan.

Opiskeluyhteys

Opiskeluyhteys

Sen henkilön nimi ja yhteystiedot, joka voi vastata kliiniseen tutkimukseen ilmoittautumiskysymyksiin. Jokaisella paikkakunnalla, jossa tutkimus suoritetaan, voi myös olla tietty yhteyshenkilö, joka voi paremmin vastata näihin kysymyksiin.

Tutki yhteystietojen varmuuskopiointi

Opiskelupaikat

  • Kenia
    • Nairobi County
      • Nairobi, Nairobi County, Kenia, 19676
        • Ei vielä rekrytointia
        • University of Nairobi College of health sciences
        • Ottaa yhteyttä:
        • Päätutkija:
          • Paul Macharia
  • Malawi
    • Blantyre
      • Blantyre, Blantyre, Malawi, 303
        • Rekrytointi
        • Malawi University of Business and Applied Sciences (MUBAS)
        • Ottaa yhteyttä:
        • Päätutkija:
          • Chiyembekezo Kachimanga
  • Tansania
    • Dar es Salaam Region
      • Dar es Salaam, Dar es Salaam Region, Tansania
        • Ei vielä rekrytointia
        • Muhimbili University of Health and Allied Sciences (MUHAS)
        • Ottaa yhteyttä:
        • Päätutkija:
          • Hendry R Sawe
    • Dodoma
      • Dodoma, Dodoma, Tansania
        • Rekrytointi
        • Ifakara Health Institute (IHI)
        • Ottaa yhteyttä:
        • Päätutkija:
          • Grace Mhalu

Osallistumiskriteerit

Tutkijat etsivät ihmisiä, jotka sopivat tiettyyn kuvaukseen, jota kutsutaan kelpoisuuskriteereiksi. Joitakin esimerkkejä näistä kriteereistä ovat henkilön yleinen terveydentila tai aiemmat hoidot.

Kelpoisuusvaatimukset

Kelpoisuusvaatimukset

Keskeiset vaatimukset, jotka ihmisten, jotka haluavat osallistua kliiniseen tutkimukseen, on täytettävä tai ominaisuudet, jotka heillä on oltava. Kelpoisuuskriteerit koostuvat sekä osallistumiskriteereistä (jotka vaaditaan, jotta henkilö voi osallistua tutkimukseen) että poissulkemisperusteista (jotka estävät henkilöä osallistumasta). Kelpoisuuskriteerityyppejä ovat muun muassa se, otetaanko tutkimukseen terveitä vapaaehtoisia, onko ikä- tai ikäryhmävaatimuksia vai sukupuolen mukaan rajoitettu.

Opintokelpoiset iät

Ei vanhempi kuin 1 päivä (Lapsi)

Hyväksyy terveitä vapaaehtoisia

Ei

Sukupuolet, jotka voivat opiskella

Kaikki

Näytteenottomenetelmä

Ei-todennäköisyysnäyte

Tutkimusväestö

The study population consists of patients of any age presenting to participating health facilities for a distinct care-seeking episode related to a clinical condition within the defined use case (e.g. primary care, emergency care).

Both adult and pediatric patients are eligible, reflecting the real-world case mix of the participating facilities.

Kuvaus

Inclusion Criteria:

  • Presentation at a participating facility for a distinct care seeking episode related to a clinical condition.
  • Use case specific inclusion criteria
  • Willing and able to provide written informed consent.

Exclusion Criteria:

  • Prolonged care-seeking episode.
  • Previously enrolled in the same study.
  • Use case specific exclusion criteria
  • Immediate life-threatening condition requiring emergency intervention precluding study procedures.

Opintosuunnitelma

Tässä osiossa on tietoja tutkimussuunnitelmasta, mukaan lukien kuinka tutkimus on suunniteltu ja mitä tutkimuksella mitataan.

Miten tutkimus on suunniteltu?

Suunnittelun yksityiskohdat

  • Havaintomallit: COHORT
  • Aikanäkymät: PROSPECTIVE

Kohortit ja interventiot

Ryhmä/Kohortti

Ryhmä/Kohortti

Ryhmä tai alaryhmä havainnointitutkimuksen osallistujia, jonka biolääketieteelliset tai terveydelliset tulokset arvioidaan.
Interventio / Hoito

Interventio / Hoito

Prosessi tai toiminta, joka on kliinisen tutkimuksen painopiste. Interventioihin kuuluvat lääkkeet, lääkinnälliset laitteet, toimenpiteet, rokotteet ja muut tuotteet, jotka ovat joko tutkittavia tai jo saatavilla. Interventiot voivat sisältää myös ei-invasiivisia lähestymistapoja, kuten koulutusta tai ruokavalion ja liikunnan muokkaamista.
Non interventional study

Non interventional study
Muut: Non interventional study

Non interventional study

Mitä tutkimuksessa mitataan?

Ensisijaiset tulostoimenpiteet

Ensisijaiset tulostoimenpiteet

Kliinisen tutkimuksen protokollassa suunniteltu tulosmittaus, joka on tärkein toimenpiteen/hoidon vaikutuksen arvioinnissa. Useimmilla kliinisillä tutkimuksilla on yksi ensisijainen tulosmittaus, mutta joissakin on useampia kuin yksi.
Tulosmittaus
Toimenpiteen kuvaus
Aikaikkuna
Performance Scores
Aikaikkuna: Day 0

Scoring is between -2 to +2 where '-2' means minimum, and '-2' means maximum. Score to be >0. Higher score means better outcome.
Day 0
Safety performance threshold achievement
Aikaikkuna: 'Day 7' and 'Day 28'

The mean safety score (minimum is -2 and maximum is +2) is formally compared between each LLM and the human comparator to assess non-inferiority within a UCA (use case appendix) dependent pre-specified margin.
'Day 7' and 'Day 28'

Toissijaiset tulostoimenpiteet

Toissijaiset tulostoimenpiteet

Kliinisen tutkimuksen protokollassa suunniteltu tulosmittaus, joka ei ole yhtä tärkeä kuin ensisijainen tulosmitta toimenpiteen vaikutuksen arvioinnissa, mutta joka on silti kiinnostava. Useimmissa kliinisissä tutkimuksissa on enemmän kuin yksi toissijainen tulosmitta.
Tulosmittaus
Toimenpiteen kuvaus
Aikaikkuna
Implementation Feasibility Research
Aikaikkuna: week 4 until study completion

Usability: Quantitative scoring rubric for clinicians; semi-structured interviews with clinicians; evaluation methods will be used
week 4 until study completion
Implementation Feasibility Research
Aikaikkuna: week 4 until study completion

Workflow integration feasibility: This will be evaluated using semi structured interviews and questionnaires
week 4 until study completion
Implementation Feasibility Research
Aikaikkuna: week 4 until study completion

Acceptability and perceived trust: This will be evaluated with Quantitative scoring rubric for clinicians; semi-structured interviews with clinicians
week 4 until study completion
Implementation Feasibility Research
Aikaikkuna: week 4 until study completion

Implementation facilitators and barriers: This will be evaluated using semi-structured interviews and questionnaires
week 4 until study completion

Yhteistyökumppanit ja tutkijat

Täältä löydät tähän tutkimukseen osallistuvat ihmiset ja organisaatiot.

Sponsori

Sponsori

Organisaatio tai henkilö, joka käynnistää tutkimuksen ja jolla on valtuudet ja määräysvalta tutkimuksessa.
Ecole Polytechnique Fédérale de Lausanne

Yhteistyökumppanit

Yhteistyökumppanit

Muu organisaatio kuin sponsori, joka tukee kliinistä tutkimusta. Tämä tuki voi sisältää rahoitukseen, suunnitteluun, toteutukseen, tietojen analysointiin tai raportointiin liittyviä toimia.
Ifakara Health Institute
Muhimbili University of Health and Allied Sciences
University of Nairobi, Kenya
Malawi University of Business and Applied Sciences (MUBAS) WASHTED Centre

Tutkijat

Tutkijat

Kliiniseen tutkimukseen osallistuva tutkija. Aiheeseen liittyviä termejä ovat kohteen päätutkija, työpaikan osatutkija, tutkimusjohtaja, tutkimuksen johtaja ja tutkimuksen päätutkija.
  • Päätutkija: Mary-Anne Hartley, LIGHT

Julkaisuja ja hyödyllisiä linkkejä

Tutkimusta koskevien tietojen syöttämisestä vastaava henkilö toimittaa nämä julkaisut vapaaehtoisesti. Nämä voivat koskea mitä tahansa tutkimukseen liittyvää.

Yleiset julkaisut

  • 1. Arora RK, Wei J, Hicks RS, Bowman P, et al. HealthBench: Evaluating Large Language Models Towards Improved Human Health. Preprint [Under Review]. 2025. 2. Burnell R, Schellaert W, Burden J, Ullman TD, Martinez-Plumed F, Tenenbaum JB, et al. Rethink reporting of evaluation results in AI. Science. 2023;380: 136-138. doi:10.1126/SCIENCE.ADF6369. 3. Hager P, Jungmann F, Holland R, Bhagat K, Hubrecht I, Knauer M, et al. Evaluation and mitigation of the limitations of large language models in clinical decision-making. Nature Medicine 2024 30:9. 2024;30: 2613-2622. doi:10.1038/s41591-024-03097-1. 4. Singhal, K., Azizi, S., Tu, T., Mahdavi, S. S., Wei, J., Chung, H. W., et al. (2023). Large language models encode clinical knowledge. Nature, 620(7972), 172-180. https://doi.org/10.1038/s41586-023-06291-2 5. WHO. Towards the Development of guidance on ethics and governance of artificial intelligence for health. 2019. 6. Azad TD, Krumholz HM, Saria S. Principles to guide clinical AI readiness and move from benchmarks to real-world evaluation. Nature Medicine. 2026;32:802-804. doi:10.1038/s41591-025-04198-1 7. Declaration of Helsinki https://www.wma.net/policies-post/wma-declaration-of-helsinki-ethical-principles-for-medical-research-involving-human-subjects 8. European Parliament and Council of the European Union, 2016. Regulation (EU) 2016/679 (General Data Protection Regulation). Official Journal of the European Union, L119, pp.1-88. 9. International Council for Harmonisation of Technical Requirements for Pharmaceuticals for Human Use (ICH), 2016. Integrated Addendum to ICH E6(R1): Guideline for Good Clinical Practice E6(R2). Step 4, 9 November 2016. 10. U.S. Food and Drug Administration. 21 CFR Part 11-Electronic Records; Electronic Signatures. Code of Federal Regulations. Title 21, Part 11. Revised 2024.

Opintojen ennätyspäivät

Nämä päivämäärät seuraavat ClinicalTrials.gov-sivustolle lähetettyjen tutkimustietueiden ja yhteenvetojen edistymistä. National Library of Medicine (NLM) tarkistaa tutkimustiedot ja raportoidut tulokset varmistaakseen, että ne täyttävät tietyt laadunvalvontastandardit, ennen kuin ne julkaistaan ​​julkisella verkkosivustolla.

Opi tärkeimmät päivämäärät

Opiskelun aloitus (Todellinen)

Opiskelun aloitus

Todellinen päivämäärä, jolloin ensimmäinen osallistuja otettiin mukaan kliiniseen tutkimukseen. "Odotettu" tutkimuksen aloituspäivä on päivämäärä, jonka tutkijat uskovat olevan tutkimuksen aloituspäivä.
Maanantai 31. elokuuta 2026

Ensisijainen valmistuminen (Arvioitu)

Ensisijainen valmistuminen

Päivämäärä, jolloin viimeinen kliinisen tutkimuksen osallistuja tutkittiin tai jona hän sai intervention lopullisen datan keräämiseksi ensisijaista tulosmittausta varten. Tähän päivämäärään ei vaikuta se, päättyikö kliininen tutkimus protokollan mukaisesti vai lopetettiinko se. Kliinisissä tutkimuksissa, joissa on useampi kuin yksi ensisijainen tulosmitta ja eri päättymispäivämäärät, tämä termi viittaa päivämäärään, jolloin kaikkien ensisijaisten tulosmittausten tiedonkeruu on saatu päätökseen. "Odotettu" ensisijainen valmistumispäivä on päivämäärä, jonka tutkijat uskovat olevan tutkimuksen ensisijainen valmistumispäivä.
Torstai 31. joulukuuta 2026

Opintojen valmistuminen (Arvioitu)

Opintojen valmistuminen

Päivämäärä, jolloin viimeinen kliinisen tutkimuksen osallistuja tutkittiin tai jona hän sai interventiota/hoitoa lopullisen datan keräämiseksi ensisijaisia ​​tulosmittauksia, toissijaisia ​​tulosmittauksia ja haittatapahtumia varten (eli viimeisen osallistujan viimeinen käynti). "Odotettu" tutkimuksen päättymispäivä on päivämäärä, jonka tutkijat uskovat olevan tutkimuksen päättymispäivä.
Torstai 31. joulukuuta 2026

Opintoihin ilmoittautumispäivät

Ensimmäinen lähetetty

Ensimmäinen lähetetty

Päivämäärä, jolloin tutkimuksen sponsori tai tutkija ensimmäisen kerran toimitti tutkimustietueen ClinicalTrials.gov Ensimmäisen lähetyspäivän ja tietueen saatavuuden ClinicalTrials.gov-sivustolla (ensimmäinen julkaisupäivämäärä) välillä on yleensä muutaman päivän viive.
Keskiviikko 9. syyskuuta 2026

Ensimmäinen toimitettu, joka täytti QC-kriteerit

Ensimmäinen toimitettu, joka täytti QC-kriteerit

Päivämäärä, jolloin tutkimuksen rahoittaja tai tutkija lähettää ensimmäisen kerran tutkimustietueen, joka on yhdenmukainen National Library of Medicine (NLM) -laadunvalvonnan (QC) tarkistuskriteereillä. Toimeksiantajan tai tutkijan on ehkä tarkistettava ja toimitettava tutkimustietue yhden tai useamman kerran, ennen kuin NLM laadunvalvontatarkastuksen kriteerit täyttyvät. Toimeksiantajan tai tutkijan vastuulla on varmistaa, että tutkimustietue on yhdenmukainen NLM laadunvalvontatarkastuskriteerien kanssa.
Torstai 29. lokakuuta 2026

Ensimmäinen Lähetetty (Todellinen)

Ensimmäinen Lähetetty

Päivämäärä, jolloin tutkimustietue oli ensimmäisen kerran saatavilla ClinicalTrials.gov -sivustolla National Library of Medicine (NLM) -laadunvalvontatarkastuksen (QC) tarkastuksen jälkeen. Tutkimuksen toimeksiantajan tai tutkijan tutkimustietueen toimittamisen ja ensimmäisen julkaisupäivän välillä on tyypillisesti muutaman päivän viive.
Tiistai 3. marraskuuta 2026

Tutkimustietojen päivitykset

Viimeisin päivitys julkaistu (Todellinen)

Viimeisin päivitys julkaistu

Viimeisin päivämäärä, jolloin tutkimustietueen muutokset otettiin käyttöön osoitteessa ClinicalTrials.gov. Voi olla viive sen välillä, kun tutkimuksen sponsori tai tutkija on toimittanut muutokset ClinicalTrials.gov-sivustolle (viimeinen päivityksen lähetyspäivä) ja viimeisen päivityksen julkaisupäivämäärän välillä.
Tiistai 3. marraskuuta 2026

Viimeisin lähetetty päivitys, joka täytti QC-kriteerit

Viimeisin lähetetty päivitys, joka täytti QC-kriteerit

Viimeisin päivämäärä, jolloin tutkimuksen rahoittaja tai tutkija on toimittanut tutkimustietueeseen muutoksia, jotka ovat yhdenmukaisia ​​National Library of Medicine (NLM) -laadunvalvonnan (QC) tarkistuskriteereillä. Toimeksiantajan tai tutkijan vastuulla on varmistaa, että tutkimustietue on yhdenmukainen NLM laadunvalvontatarkastuskriteerien kanssa.
Torstai 29. lokakuuta 2026

Viimeksi vahvistettu

Viimeksi vahvistettu

Viimeisin päivämäärä, jolloin tutkimuksen rahoittaja tai tutkija vahvisti kliinisen tutkimuksen tiedot ClinicalTrials.gov-sivustolla oikeiksi ja ajantasaisiksi. Jos tutkimus, jonka rekrytointitila on rekrytointi; ei vielä rekrytoi; tai aktiivinen, ei rekrytointia ole varmistettu viimeisen 2 vuoden aikana, tutkimuksen rekrytointistatus näytetään tuntemattomana.
Torstai 1. lokakuuta 2026

Lisää tietoa

Tähän tutkimukseen liittyvät termit

Avainsanat

Muut tutkimustunnusnumerot

Muut tutkimustunnusnumerot

Muut tunnisteet tai tunnusnumerot kuin NCT-numero, jotka tutkimuksen sponsori, rahoittaja tai joku muu on määrittänyt kliiniselle tutkimukselle. Nämä numerot voivat sisältää yksilöllisiä tunnisteita muista tutkimusrekistereistä ja National Institutes of Health -apurahojen numeroista.
  • LiGHT-26-02
  • INV-076674 (Muu apuraha/rahoitusnumero: BILL and Melinda gates foundation)

Yksittäisten osallistujien tietojen suunnitelma (IPD)

Aiotko jakaa yksittäisten osallistujien tietoja (IPD)?

JOO

IPD-suunnitelman kuvaus

We will share IPD within 12 months of study completion.

IPD-jaon aikakehys

IPD information will be shared within 12 months of study completion.

IPD-jaon käyttöoikeuskriteerit

Will be confirmed within 12 months of study completion

IPD-jakamista tukeva tietotyyppi

  • STUDY_PROTOCOL

Lääke- ja laitetiedot, tutkimusasiakirjat

Tutkii yhdysvaltalaista FDA sääntelemää lääkevalmistetta

Ei

Tutkii yhdysvaltalaista FDA sääntelemää laitetuotetta

Ei

Nämä tiedot haettiin suoraan verkkosivustolta clinicaltrials.gov ilman muutoksia. Jos sinulla on pyyntöjä muuttaa, poistaa tai päivittää tutkimustietojasi, ota yhteyttä register@clinicaltrials.gov. Heti kun muutos on otettu käyttöön osoitteessa clinicaltrials.gov, se päivitetään automaattisesti myös verkkosivustollemme .

Evästeasetukset

Käytämme evästeitä varmistaaksemme, että annamme sinulle parhaan kokemuksen verkkosivustollamme. Lisätietoja on tietosuoja- ja evästekäytännössämme. ...>>>Voit muuttaa asetuksiasi tai peruuttaa suostumuksesi milloin tahansa poistamalla evästeet verkkosivustoltasi tai tietokoneeltasi käytännössä kuvatulla tavalla. Hyväksy se ja valitse mieltymyksesi merkitsemällä vastaavat ruudut alla olevaan "Asetusten hallinta" -osioon. Lue huolellisesti käyttöehdot ennen kuin jatkat minkä tahansa tämän verkkosivuston osan käyttöä.
«Hallitse asetuksia