Эта страница была переведена автоматически, точность перевода не гарантируется. Пожалуйста, обратитесь к английской версии для исходного текста.

Massive Online Open Validation and Evaluation of Large Language Models for Resource Constrained Settings - a Study of Contextual Awareness, Safety, and Accuracy (SilentMOOVE)

29 октября 2026 г. обновлено: Rita Szekely, Ecole Polytechnique Fédérale de Lausanne

Healthcare settings in low and middle income countries, clinicians are frequently required to manage a wide range of acute conditions under the constraints of time pressure, limited diagnostic resources, and variable availability of up-to-date clinical guidelines. Large language models (LLMs), which can synthesize and generate medical information in a natural language, have been proposed as potential clinical decision support tools. Most evaluations of LLMs in medicine have relied on standardized benchmark examinations or hypothetical case vignettes, often derived from high-income country contexts. MOOVE (Massive online open validation and evaluation) framework was developed to address the need for rigorous and context-sensitive evaluation of LLMs through a staged approach.

Study is a non-interventional, prospective study designed to test LLMs safely in real clinical settings, evaluate their performance against human care, and explore how feasible their future implementation in healthcare might be.

Обзор исследования

Статус

Статус

Указывает текущий статус найма или статус расширенного доступа.
Рекрутинг

Условия

Условия

Изучаемое заболевание, расстройство, синдром, болезнь или травма. На ClinicalTrials.gov условия могут также включать другие вопросы, связанные со здоровьем, такие как продолжительность жизни, качество жизни и риски для здоровья.

Вмешательство/лечение

Вмешательство/лечение

Процесс или действие, находящееся в центре внимания клинического исследования. Вмешательства включают лекарства, медицинские устройства, процедуры, вакцины и другие продукты, которые либо находятся на стадии исследований, либо уже доступны. Вмешательства также могут включать неинвазивные подходы, такие как обучение или изменение диеты и физических упражнений.

Подробное описание

SilentMOOVE (Silent massive online open validation and evaluation) phase of the MOOVE project, which represents the intermediate step between previous hypothetical testing study and future interventional trial. In silentMOOVE, patients are prospectively recruited during routine clinical care in participating outpatient health facilities. Clinical and demographic data collected during consultations are used to prompt LLMs retrospectively without influencing patient care. The routine diagnosis and care plan of the treating clinicians (human care plan) are also captured. LLM outputs are subsequently evaluated by a panel of independent clinical experts against the human care plan as a comparator. Patient clinical outcomes are collected on 7 and 28 days after enrolment to establish a baseline and to be used in the evaluation of LLMs.

The rationale for this study is to generate robust, prospective evidence on the safety and performance of LLMs in real-world clinical contexts, while minimizing risk to participants by fully separating model evaluation from clinical decision-making.

Study also provides the opportunity to assess the usability and gather early insights on implementation readiness of the LLM prompting interface. For this reason, besides evaluating the performance and safety of various LLMs, this study includes an implementation feasibility component. These activities are needed to better understand the context and any amelioration needed before future implementation in healthcare settings. Learnings from the implementation feasibility research will be shared among countries, especially applicable within a given use case. Implementation feasibility research will be grounded in artificial intelligence in healthcare implementation frameworks and other Implementation science frameworks Primary objectives

  1. To evaluate the overall performance profile of LLMs on real-world clinical scenarios using the human care plan as a comparator
  2. To assess whether each LLM being evaluated is not inferior to the human comparator with respect to safety on real-world clinical scenarios, based on structured retrospective assessment of model- and human-generated care plans.

Implementation feasibility research objectives

  1. Assess clinician experience with the LLM prompting interface: ease of use, time burden, and alignment with clinical workflow.
  2. Gather clinician impressions of LLM output disclosed and reviewed post-consultation: clarity, relevance, perceived safety, alignment with local clinical guidelines, and trust in LLM outputs.
  3. Facilitators and Barriers to Future Implementation: Identify site-level infrastructure, staff capacity, and organizational readiness factors that may support or hinder future implementation of LLM feedback in real-time

Тип исследования

Тип исследования

Описывает характер клинического исследования. Типы исследований включают интервенционные исследования (также называемые клиническими испытаниями), наблюдательные исследования (включая регистры пациентов) и расширенный доступ.
Наблюдательный

Регистрация (Оцененный)

Регистрация

Количество участников клинического исследования. «Предполагаемый» набор — это целевое количество участников, необходимое исследователям для исследования.
3000

Контакты и местонахождение

В этом разделе приведены контактные данные лиц, проводящих исследование, и информация о том, где проводится это исследование.

Контакты исследования

Контакты исследования

Имя и контактная информация лица, которое может ответить на вопросы о регистрации для участия в клиническом исследовании. В каждом месте, где проводится исследование, также может быть определенное контактное лицо, которое сможет лучше ответить на эти вопросы.
  • Имя: Mary-Anne Hartley
  • Номер телефона: +41216930828
  • Электронная почта: mary-anne.hartley@epfl.ch

Учебное резервное копирование контактов

  • Имя: Kristina Keitel
  • Номер телефона: +41216932039
  • Электронная почта: Kristina.keitel@epfl.ch

Места учебы

  • Кения
    • Nairobi County
      • Nairobi, Nairobi County, Кения, 19676
        • Еще не набирают
        • University of Nairobi College of health sciences
        • Контакт:
        • Главный следователь:
          • Paul Macharia
  • Малави
    • Blantyre
      • Blantyre, Blantyre, Малави, 303
        • Рекрутинг
        • Malawi University of Business and Applied Sciences (MUBAS)
        • Контакт:
        • Главный следователь:
          • Chiyembekezo Kachimanga
  • Танзания
    • Dar es Salaam Region
      • Dar es Salaam, Dar es Salaam Region, Танзания
        • Еще не набирают
        • Muhimbili University of Health and Allied Sciences (MUHAS)
        • Контакт:
          • Hendry R Sawe
          • Номер телефона: +255754885658
          • Электронная почта: hendry_sawe@yahoo.com
        • Главный следователь:
          • Hendry R Sawe
    • Dodoma
      • Dodoma, Dodoma, Танзания
        • Рекрутинг
        • Ifakara Health Institute (IHI)
        • Контакт:
          • Grace Mhalu
          • Номер телефона: +255655888891
          • Электронная почта: gmhalu@ihi.or.tz
        • Главный следователь:
          • Grace Mhalu

Критерии участия

Исследователи ищут людей, которые соответствуют определенному описанию, называемому критериям приемлемости. Некоторыми примерами этих критериев являются общее состояние здоровья человека или предшествующее лечение.

Критерии приемлемости

Критерии приемлемости

Ключевые требования, которым должны соответствовать люди, желающие участвовать в клиническом исследовании, или характеристики, которыми они должны обладать. Критерии приемлемости состоят как из критериев включения (которые необходимы человеку для участия в исследовании), так и из критериев исключения (которые препятствуют участию человека). Типы критериев приемлемости включают в себя участие в исследовании здоровых добровольцев, требования к возрасту или возрастной группе или ограничение по полу.

Возраст, подходящий для обучения

Не старше 1 день (Ребенок)

Принимает здоровых добровольцев

Нет

Полы, имеющие право на обучение

Все

Метод выборки

Невероятностная выборка

Исследуемая популяция

The study population consists of patients of any age presenting to participating health facilities for a distinct care-seeking episode related to a clinical condition within the defined use case (e.g. primary care, emergency care).

Both adult and pediatric patients are eligible, reflecting the real-world case mix of the participating facilities.

Описание

Inclusion Criteria:

  • Presentation at a participating facility for a distinct care seeking episode related to a clinical condition.
  • Use case specific inclusion criteria
  • Willing and able to provide written informed consent.

Exclusion Criteria:

  • Prolonged care-seeking episode.
  • Previously enrolled in the same study.
  • Use case specific exclusion criteria
  • Immediate life-threatening condition requiring emergency intervention precluding study procedures.

Учебный план

В этом разделе представлена ​​подробная информация о плане исследования, в том числе о том, как планируется исследование и что оно измеряет.

Как устроено исследование?

Детали дизайна

  • Наблюдательные модели: COHORT
  • Временные перспективы: PROSPECTIVE

Когорты и вмешательства

Группа / когорта

Группа / когорта

Группа или подгруппа участников обсервационного исследования, которое оценивается на предмет биомедицинских результатов или исходов для здоровья.
Вмешательство/лечение

Вмешательство/лечение

Процесс или действие, находящееся в центре внимания клинического исследования. Вмешательства включают лекарства, медицинские устройства, процедуры, вакцины и другие продукты, которые либо находятся на стадии исследований, либо уже доступны. Вмешательства также могут включать неинвазивные подходы, такие как обучение или изменение диеты и физических упражнений.
Non interventional study

Non interventional study
Другой: Non interventional study

Non interventional study

Что измеряет исследование?

Первичные показатели результатов

Первичные показатели результатов

В протоколе клинического исследования - планируемая мера исхода, которая является наиболее важной для оценки эффекта вмешательства/лечения. В большинстве клинических исследований используется один первичный критерий исхода, но в некоторых — более одного.
Мера результата
Мера Описание
Временное ограничение
Performance Scores
Временное ограничение: Day 0

Scoring is between -2 to +2 where '-2' means minimum, and '-2' means maximum. Score to be >0. Higher score means better outcome.
Day 0
Safety performance threshold achievement
Временное ограничение: 'Day 7' and 'Day 28'

The mean safety score (minimum is -2 and maximum is +2) is formally compared between each LLM and the human comparator to assess non-inferiority within a UCA (use case appendix) dependent pre-specified margin.
'Day 7' and 'Day 28'

Вторичные показатели результатов

Вторичные показатели результатов

В протоколе клинического исследования - запланированная мера результата, которая не так важна, как первичная мера результата для оценки эффекта вмешательства, но все же представляет интерес. В большинстве клинических исследований используется более одного вторичного критерия исхода.
Мера результата
Мера Описание
Временное ограничение
Implementation Feasibility Research
Временное ограничение: week 4 until study completion

Usability: Quantitative scoring rubric for clinicians; semi-structured interviews with clinicians; evaluation methods will be used
week 4 until study completion
Implementation Feasibility Research
Временное ограничение: week 4 until study completion

Workflow integration feasibility: This will be evaluated using semi structured interviews and questionnaires
week 4 until study completion
Implementation Feasibility Research
Временное ограничение: week 4 until study completion

Acceptability and perceived trust: This will be evaluated with Quantitative scoring rubric for clinicians; semi-structured interviews with clinicians
week 4 until study completion
Implementation Feasibility Research
Временное ограничение: week 4 until study completion

Implementation facilitators and barriers: This will be evaluated using semi-structured interviews and questionnaires
week 4 until study completion

Соавторы и исследователи

Здесь вы найдете людей и организации, участвующие в этом исследовании.

Спонсор

Спонсор

Организация или лицо, которое инициирует исследование и имеет полномочия и контроль над исследованием.
Ecole Polytechnique Fédérale de Lausanne

Соавторы

Соавторы

Организация, не являющаяся спонсором, которая оказывает поддержку клиническому исследованию. Эта поддержка может включать деятельность, связанную с финансированием, проектированием, реализацией, анализом данных или отчетностью.
Ifakara Health Institute
Muhimbili University of Health and Allied Sciences
University of Nairobi, Kenya
Malawi University of Business and Applied Sciences (MUBAS) WASHTED Centre

Следователи

Следователи

Исследователь, участвующий в клиническом исследовании. Связанные термины включают главного исследователя исследовательского центра, вспомогательного исследователя исследовательского центра, председателя исследования, руководителя исследования и главного исследователя исследования.
  • Главный следователь: Mary-Anne Hartley, LIGHT

Публикации и полезные ссылки

Лицо, ответственное за внесение сведений об исследовании, добровольно предоставляет эти публикации. Это может быть что угодно, связанное с исследованием.

Общие публикации

  • 1. Arora RK, Wei J, Hicks RS, Bowman P, et al. HealthBench: Evaluating Large Language Models Towards Improved Human Health. Preprint [Under Review]. 2025. 2. Burnell R, Schellaert W, Burden J, Ullman TD, Martinez-Plumed F, Tenenbaum JB, et al. Rethink reporting of evaluation results in AI. Science. 2023;380: 136-138. doi:10.1126/SCIENCE.ADF6369. 3. Hager P, Jungmann F, Holland R, Bhagat K, Hubrecht I, Knauer M, et al. Evaluation and mitigation of the limitations of large language models in clinical decision-making. Nature Medicine 2024 30:9. 2024;30: 2613-2622. doi:10.1038/s41591-024-03097-1. 4. Singhal, K., Azizi, S., Tu, T., Mahdavi, S. S., Wei, J., Chung, H. W., et al. (2023). Large language models encode clinical knowledge. Nature, 620(7972), 172-180. https://doi.org/10.1038/s41586-023-06291-2 5. WHO. Towards the Development of guidance on ethics and governance of artificial intelligence for health. 2019. 6. Azad TD, Krumholz HM, Saria S. Principles to guide clinical AI readiness and move from benchmarks to real-world evaluation. Nature Medicine. 2026;32:802-804. doi:10.1038/s41591-025-04198-1 7. Declaration of Helsinki https://www.wma.net/policies-post/wma-declaration-of-helsinki-ethical-principles-for-medical-research-involving-human-subjects 8. European Parliament and Council of the European Union, 2016. Regulation (EU) 2016/679 (General Data Protection Regulation). Official Journal of the European Union, L119, pp.1-88. 9. International Council for Harmonisation of Technical Requirements for Pharmaceuticals for Human Use (ICH), 2016. Integrated Addendum to ICH E6(R1): Guideline for Good Clinical Practice E6(R2). Step 4, 9 November 2016. 10. U.S. Food and Drug Administration. 21 CFR Part 11-Electronic Records; Electronic Signatures. Code of Federal Regulations. Title 21, Part 11. Revised 2024.

Даты записи исследования

Эти даты отслеживают ход отправки отчетов об исследованиях и сводных результатов на сайт ClinicalTrials.gov. Записи исследований и сообщаемые результаты проверяются Национальной медицинской библиотекой (NLM), чтобы убедиться, что они соответствуют определенным стандартам контроля качества, прежде чем публиковать их на общедоступном веб-сайте.

Изучение основных дат

Начало исследования (Действительный)

Начало исследования

Фактическая дата, когда первый участник был включен в клиническое исследование. «Предполагаемая» дата начала исследования — это дата, которая, по мнению исследователей, будет датой начала исследования.
31 августа 2026 г.

Первичное завершение (Оцененный)

Первичное завершение

Дата, когда последний участник клинического исследования был осмотрен или получил вмешательство для сбора окончательных данных для измерения основного результата. На эту дату не влияет, закончилось ли клиническое исследование в соответствии с протоколом или было прекращено. Для клинических исследований с более чем одним показателем первичного исхода с разными датами завершения этот термин относится к дате завершения сбора данных для всех показателей первичного исхода. «Предполагаемая» дата завершения первичного исследования — это дата, которая, по мнению исследователей, будет датой завершения первичного исследования.
31 декабря 2026 г.

Завершение исследования (Оцененный)

Завершение исследования

Дата, когда последний участник клинического исследования был обследован или получил вмешательство/лечение для сбора окончательных данных по первичным показателям исхода, вторичным показателям исхода и нежелательным явлениям (т. е. последний визит последнего участника). «Предполагаемая» дата завершения исследования — это дата, которая, по мнению исследователей, будет датой завершения исследования.
31 декабря 2026 г.

Даты регистрации исследования

Первый отправленный

Первый отправленный

Дата, когда спонсор исследования или исследователь впервые отправил отчет об исследовании на веб-сайт ClinicalTrials.gov. Обычно существует задержка в несколько дней между датой первой отправки и доступностью записи на ClinicalTrials.gov (дата первой публикации).
9 сентября 2026 г.

Впервые представлено, что соответствует критериям контроля качества

Впервые представлено, что соответствует критериям контроля качества

Дата, когда спонсор исследования или исследователь впервые представляет отчет об исследовании, который соответствует критериям проверки контроля качества (QC) Национальной медицинской библиотеки (NLM). Спонсору или исследователю может потребоваться пересмотреть и отправить отчет об исследовании один или несколько раз, прежде чем будут выполнены критерии проверки контроля качества NLM. Спонсор или исследователь несет ответственность за обеспечение того, чтобы запись исследования соответствовала критериям обзора NLM QC.
29 октября 2026 г.

Первый опубликованный (Действительный)

Первый опубликованный

Дата, когда запись исследования была впервые доступна на сайте ClinicalTrials.gov после завершения обзора контроля качества (QC) Национальной медицинской библиотеки (NLM). Обычно существует задержка в несколько дней между датой подачи спонсором исследования или исследователем записи об исследовании и датой первой публикации.
3 ноября 2026 г.

Обновления учебных записей

Последнее опубликованное обновление (Действительный)

Последнее опубликованное обновление

Самая последняя дата, когда изменения в протоколе исследования были доступны на сайте ClinicalTrials.gov. Может быть задержка между отправкой изменений на сайт ClinicalTrials.gov спонсором или исследователем исследования (дата отправки последнего обновления) и датой публикации последнего обновления.
3 ноября 2026 г.

Последнее отправленное обновление, отвечающее критериям контроля качества

Последнее отправленное обновление, отвечающее критериям контроля качества

Самая последняя дата, когда спонсор исследования или исследователь внес изменения в отчет об исследовании, которые соответствуют критериям проверки контроля качества (QC) Национальной медицинской библиотеки (NLM). Спонсор или исследователь несет ответственность за обеспечение того, чтобы запись исследования соответствовала критериям обзора NLM QC.
29 октября 2026 г.

Последняя проверка

Последняя проверка

Самая последняя дата, когда спонсор исследования или исследователь подтвердил информацию о клиническом исследовании на сайте ClinicalTrials.gov как точную и актуальную. Если исследование с набором статуса набора; еще не вербовка; или активен, набор не был подтвержден в течение последних 2 лет, статус набора в исследование показан как неизвестный.
1 октября 2026 г.

Дополнительная информация

Термины, связанные с этим исследованием

Ключевые слова

Другие идентификационные номера исследования

Другие идентификационные номера исследования

Идентификаторы или идентификационные номера, отличные от номера NCT, которые присваиваются клиническому исследованию спонсором исследования, спонсорами или другими лицами. Эти номера могут включать уникальные идентификаторы из других реестров испытаний и номера грантов Национального института здравоохранения.
  • LiGHT-26-02
  • INV-076674 (Другой номер гранта/финансирования: BILL and Melinda gates foundation)

Планирование данных отдельных участников (IPD)

Планируете делиться данными об отдельных участниках (IPD)?

ДА

Описание плана IPD

We will share IPD within 12 months of study completion.

Сроки обмена IPD

IPD information will be shared within 12 months of study completion.

Критерии совместного доступа к IPD

Will be confirmed within 12 months of study completion

Совместное использование IPD Поддерживающий тип информации

  • STUDY_PROTOCOL

Информация о лекарствах и устройствах, исследовательские документы

Изучает лекарственный продукт, регулируемый FDA США.

Нет

Изучает продукт устройства, регулируемый Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов США.

Нет

Эта информация была получена непосредственно с веб-сайта clinicaltrials.gov без каких-либо изменений. Если у вас есть запросы на изменение, удаление или обновление сведений об исследовании, обращайтесь по адресу register@clinicaltrials.gov. Как только изменение будет реализовано на clinicaltrials.gov, оно будет автоматически обновлено и на нашем веб-сайте. .

Настройки файлов cookie

Мы используем файлы cookie, чтобы обеспечить максимальное удобство использования нашего веб-сайта. Для получения дополнительных сведений внимательно прочитайте нашу Политику конфиденциальности и файлов cookie. ...>>>Вы можете изменить свои предпочтения или отозвать свое согласие в любое время, удалив файлы cookie со своего веб-сайта или компьютера, как описано в политике. Примите его и выберите свои предпочтения, отметив соответствующие поля в разделе «Управление настройками» ниже. Пожалуйста, внимательно прочтите наши Условия использования, прежде чем продолжить использование любой части этого веб-сайта.
«Управление настройками