Questa pagina è stata tradotta automaticamente e l'accuratezza della traduzione non è garantita. Si prega di fare riferimento al Versione inglese per un testo di partenza.

Benchmarking Large Language Models Against Tumour Boards for Oncology Treatment Recommendations (BEACON)

28 luglio 2026 aggiornato da: Assistance Publique - Hôpitaux de Paris

Benchmarking AI for Clinical Oncology decisioNmaking (BEACON): A Prospective, Multicentre, Blinded Evaluation of Frontier Large Language Models Against Multidisciplinary Tumour Board Recommendations in Oncology Treatment Planning

BEACON (Benchmarking AI for Clinical Oncology decisioNmaking) is a prospective, multicentre, comparative, blinded, non-interventional benchmark evaluating the treatment recommendations of five frontier large language models (LLMs) against the recommendations of multidisciplinary tumour boards (RCP) in oncology treatment planning. One hundred standardised synthetic cases (20 per localisation, across breast, lung, urological, digestive and gynaecological cancers) are submitted as identical structured input to two independent tumour boards per localisation and to five frontier LLMs. Each recommendation - human or model - is decomposed into five predefined decision domains (intent, surgery, radiotherapy, systemic therapy, work-up and biomarkers) and scored 0/1/2 for concordance against a two-tier reference: the consensus of the two tumour boards, complemented by an a priori locked guideline matrix (ESMO, NCCN). The primary endpoint is domain-level concordance between LLM and RCP consensus, expressed as a linearly weighted Cohen's kappa. A co-primary safety endpoint captures the proportion of recommendations carrying serious harm potential, because concordance alone can conceal dangerous errors. Because expert boards may disagree with one another on identical cases, model performance is always interpreted against the human consensus. BEACON is designed as reusable, openly licensed, pre-registered infrastructure: all synthetic cases, evaluation rubrics, the locked guideline matrix, scoring algorithms and verbatim prompts are released for full reproducibility.

Panoramica dello studio

Stato

Stato

Indica lo stato di reclutamento attuale o lo stato di accesso ampliato.
Reclutamento

Condizioni

Condizioni

La malattia, il disturbo, la sindrome, la malattia o la lesione oggetto di studio. Su ClinicalTrials.gov, le condizioni possono includere anche altri problemi relativi alla salute, come la durata della vita, la qualità della vita e i rischi per la salute.

Intervento / Trattamento

Intervento / Trattamento

Un processo o un'azione che è al centro di uno studio clinico. Gli interventi includono farmaci, dispositivi medici, procedure, vaccini e altri prodotti sperimentali o già disponibili. Gli interventi possono anche includere approcci non invasivi, come l'educazione o la modifica della dieta e dell'esercizio fisico.

Descrizione dettagliata

BEACON is a prospective, multicentre, blinded benchmark using automated, criteria-based scoring. It is built on three design decisions that distinguish it from the existing literature: (i) synthetic, standardised cases remove the record-completeness variability that confounds retrospective comparisons and allow the identical input to be given to every board and every model; (ii) two independent tumour boards per localisation let human-human agreement be measured rather than assumed; and (iii) a guideline matrix, locked a priori, provides an objective anchor applied identically to human and model recommendations.

Reference standard. For each case-domain, a guideline matrix (guideline-recommended / acceptable / unsupported options per case-domain; ESMO, NCCN), locked and time-stamped before data collection, is applied identically to boards and models.

Five decision domains. Every recommendation is decomposed into D1 Intent, D2 Surgery, D3 Radiotherapy, D4 Systemic therapy (class + line), and D5 Work-up & biomarkers before any comparison.

Tipo di studio

Tipo di studio

Descrive la natura di uno studio clinico. I tipi di studio includono studi interventistici (chiamati anche studi clinici), studi osservazionali (compresi i registri dei pazienti) e accesso allargato.
Osservativo

Iscrizione (Stimato)

Iscrizione

Il numero di partecipanti a uno studio clinico. L'iscrizione "anticipata" è il numero target di partecipanti di cui i ricercatori hanno bisogno per lo studio.
100

Contatti e Sedi

Questa sezione fornisce i recapiti di coloro che conducono lo studio e informazioni su dove viene condotto lo studio.

Contatto studio

Contatto studio

Il nome e le informazioni di contatto della persona che può rispondere alle domande di iscrizione per uno studio clinico. Ogni sede in cui viene condotto lo studio può anche avere un contatto specifico, che potrebbe essere maggiormente in grado di rispondere a tali domande.

Backup dei contatti dello studio

Luoghi di studio

  • Francia
      • Paris, Francia
        • Reclutamento
        • Hôpital Europeén Georges Pompidou
        • Contatto:

Criteri di partecipazione

I ricercatori cercano persone che corrispondano a una certa descrizione, chiamata criteri di ammissibilità. Alcuni esempi di questi criteri sono le condizioni generali di salute di una persona o trattamenti precedenti.

Criteri di ammissibilità

Criteri di ammissibilità

I requisiti chiave che devono soddisfare le persone che vogliono partecipare a uno studio clinico o le caratteristiche che devono avere. I criteri di ammissibilità sono costituiti sia da criteri di inclusione (necessari a una persona per partecipare allo studio) sia da criteri di esclusione (che impediscono a una persona di partecipare). I tipi di criteri di ammissibilità includono se uno studio accetta volontari sani, ha requisiti di età o gruppo di età o è limitato dal sesso.

Età idonea allo studio

  • Adulto
  • Adulto più anziano

Accetta volontari sani

No

Metodo di campionamento

Campione non probabilistico

Popolazione di studio

100 synthetic oncology treatment-planning cases (20 per localisation) across five localisations: breast, lung, urological (prostate, bladder / upper-tract urothelial, kidney), digestive and gynaecological. Each case is a structured JSON input specifying UICC 8th-edition stage, biomarkers, ECOG performance status, comorbidities and a standardised clinical question. No human participants, no patient data and no identifiable individuals. Recommendations are produced by two independent tumour boards per localisation and by five frontier LLMs (queried May 2026).

Descrizione

Inclusion Criteria:

  • Synthetic oncology case within one of the five predefined localisations (breast, lung, urological, digestive, gynaecological).
  • Complete structured schema: UICC 8th-edition stage, biomarkers, ECOG performance status, comorbidities and a standardised clinical question.
  • A clinically answerable treatment-planning question that is mappable to the locked guideline matrix.

Exclusion Criteria:

  • Case outside the five predefined localisations.
  • Incomplete, internally inconsistent or ambiguous schema.
  • Duplicate or near-duplicate of an existing case in the set.
  • Question not resolvable by current guidelines.

Piano di studio

Questa sezione fornisce i dettagli del piano di studio, compreso il modo in cui lo studio è progettato e ciò che lo studio sta misurando.

Come è strutturato lo studio?

Dettagli di progettazione

Coorti e interventi

Gruppo / Coorte

Gruppo / Coorte

Un gruppo o sottogruppo di partecipanti a uno studio osservazionale che viene valutato per gli esiti biomedici o sanitari.
Intervento / Trattamento

Intervento / Trattamento

Un processo o un'azione che è al centro di uno studio clinico. Gli interventi includono farmaci, dispositivi medici, procedure, vaccini e altri prodotti sperimentali o già disponibili. Gli interventi possono anche includere approcci non invasivi, come l'educazione o la modifica della dieta e dell'esercizio fisico.
Breast cancers
Altro: Multidisciplinary tumour boards
Two independent tumour boards per localisation (10 boards in total) issue a categorical recommendation for every synthetic case. Where both boards agree, their consensus defines the reference standard; where they differ, the case-domain is classified as EQUIPOISE and analysed separately.
Altro: Frontier large language models
Five frontier LLMs (GPT-5.6, Claude Fable 5, Gemini 3.1 Pro, DeepSeek V4 Pro, Llama 4 Maverick) each receive the identical structured input for every case, three times in independent sessions, under locked prompts, versions and settings.
Lung cancers
Altro: Multidisciplinary tumour boards
Two independent tumour boards per localisation (10 boards in total) issue a categorical recommendation for every synthetic case. Where both boards agree, their consensus defines the reference standard; where they differ, the case-domain is classified as EQUIPOISE and analysed separately.
Altro: Frontier large language models
Five frontier LLMs (GPT-5.6, Claude Fable 5, Gemini 3.1 Pro, DeepSeek V4 Pro, Llama 4 Maverick) each receive the identical structured input for every case, three times in independent sessions, under locked prompts, versions and settings.
Urological cancers
Altro: Multidisciplinary tumour boards
Two independent tumour boards per localisation (10 boards in total) issue a categorical recommendation for every synthetic case. Where both boards agree, their consensus defines the reference standard; where they differ, the case-domain is classified as EQUIPOISE and analysed separately.
Altro: Frontier large language models
Five frontier LLMs (GPT-5.6, Claude Fable 5, Gemini 3.1 Pro, DeepSeek V4 Pro, Llama 4 Maverick) each receive the identical structured input for every case, three times in independent sessions, under locked prompts, versions and settings.
Digestive cancers
Altro: Multidisciplinary tumour boards
Two independent tumour boards per localisation (10 boards in total) issue a categorical recommendation for every synthetic case. Where both boards agree, their consensus defines the reference standard; where they differ, the case-domain is classified as EQUIPOISE and analysed separately.
Altro: Frontier large language models
Five frontier LLMs (GPT-5.6, Claude Fable 5, Gemini 3.1 Pro, DeepSeek V4 Pro, Llama 4 Maverick) each receive the identical structured input for every case, three times in independent sessions, under locked prompts, versions and settings.
Gynaecological cancers
Altro: Multidisciplinary tumour boards
Two independent tumour boards per localisation (10 boards in total) issue a categorical recommendation for every synthetic case. Where both boards agree, their consensus defines the reference standard; where they differ, the case-domain is classified as EQUIPOISE and analysed separately.
Altro: Frontier large language models
Five frontier LLMs (GPT-5.6, Claude Fable 5, Gemini 3.1 Pro, DeepSeek V4 Pro, Llama 4 Maverick) each receive the identical structured input for every case, three times in independent sessions, under locked prompts, versions and settings.

Cosa sta misurando lo studio?

Misure di risultato primarie

Misure di risultato primarie

Nel protocollo di uno studio clinico, la misura dell'esito pianificato più importante per valutare l'effetto di un intervento/trattamento. La maggior parte degli studi clinici ha una misura di esito primaria, ma alcuni ne hanno più di una.
Misura del risultato
Misura Descrizione
Lasso di tempo
Domain-level performance between LLM recommendations and the locked guidelines.
Lasso di tempo: Assessed once at central scoring, after data collection (~October 2026)
For each recommendation domain and each LLM, proportion of LLM recommendation concordant with locked guidelines
Assessed once at central scoring, after data collection (~October 2026)

Misure di risultato secondarie

Misure di risultato secondarie

Nel protocollo di uno studio clinico, una misura dell'esito pianificato che non è importante quanto la misura dell'esito primario per valutare l'effetto di un intervento ma è comunque di interesse. La maggior parte degli studi clinici ha più di una misura di esito secondaria.
Misura del risultato
Misura Descrizione
Lasso di tempo
Proportion of recommendations carrying serious harm potential ( LLM and tumour boards)
Lasso di tempo: Up to October 2026
Up to October 2026
Domain-level recommendation concordance between LLM and tumour-boards
Lasso di tempo: Up to October 2026
Each recommendation domain, decomposed into the five decision domains and scored per domain on an ordinal scale (2 = complete concordance; 1 = partial concordance; 0 = discordance).
Up to October 2026
Inter-tumour board domain-level recommendation concordance
Lasso di tempo: Up to October 2026
Agreement between the two independent tumour boards scored per recommendation domain
Up to October 2026
Equipoise rate
Lasso di tempo: Up to October 2026
Proportion of case-domains where the two tumour boards give different categorical recommendations
Up to October 2026
Completeness
Lasso di tempo: Up to October 2026
Proportion of required domains addressed (LLM and tumour boards)
Up to October 2026
Missingness
Lasso di tempo: Up to October 2026
Proportion of critical omissions (LLM and tumour boards)
Up to October 2026
Intensity bias
Lasso di tempo: Up to October 2026
Proportion of recommendation corresponding to over- or under-treatment
Up to October 2026

Collaboratori e investigatori

Qui è dove troverai le persone e le organizzazioni coinvolte in questo studio.

Sponsor

Sponsor

L'organizzazione o la persona che avvia lo studio e che ha autorità e controllo sullo studio.
Assistance Publique - Hôpitaux de Paris

Studiare le date dei record

Queste date tengono traccia dell'avanzamento della registrazione dello studio e dell'invio dei risultati di sintesi a ClinicalTrials.gov. I record degli studi e i risultati riportati vengono esaminati dalla National Library of Medicine (NLM) per assicurarsi che soddisfino specifici standard di controllo della qualità prima di essere pubblicati sul sito Web pubblico.

Studia le date principali

Inizio studio (Effettivo)

Inizio studio

La data effettiva in cui il primo partecipante è stato arruolato in uno studio clinico. La data di inizio dello studio "prevista" è la data che i ricercatori pensano sarà la data di inizio dello studio.
1 maggio 2026

Completamento primario (Stimato)

Completamento primario

La data in cui l'ultimo partecipante a uno studio clinico è stato esaminato o ha ricevuto un intervento per raccogliere i dati finali per la misura dell'esito primario. Il fatto che lo studio clinico sia terminato secondo il protocollo o sia stato interrotto non influisce su questa data. Per gli studi clinici con più di una misura di esito primario con diverse date di completamento, questo termine si riferisce alla data in cui la raccolta dei dati è completata per tutte le misure di esito primario. La data di completamento principale "prevista" è la data che i ricercatori ritengono sarà la data di completamento principale per lo studio.
1 ottobre 2026

Completamento dello studio (Stimato)

Completamento dello studio

La data in cui l'ultimo partecipante a uno studio clinico è stato esaminato o ha ricevuto un intervento/trattamento per raccogliere i dati finali per le misure di esito primarie, le misure di esito secondarie e gli eventi avversi (ovvero l'ultima visita dell'ultimo partecipante). La data di completamento dello studio "prevista" è la data che i ricercatori ritengono sarà la data di completamento dello studio.
1 ottobre 2026

Date di iscrizione allo studio

Primo inviato

Primo inviato

La data in cui lo sponsor o il ricercatore dello studio ha inviato per la prima volta un record di studio a ClinicalTrials.gov. In genere c'è un ritardo di alcuni giorni tra la prima data di invio e la disponibilità del record su ClinicalTrials.gov (la prima data di invio).
28 luglio 2026

Primo inviato che soddisfa i criteri di controllo qualità

Primo inviato che soddisfa i criteri di controllo qualità

La data in cui lo sponsor dello studio o il ricercatore invia per la prima volta un record di studio che è coerente con i criteri di revisione del controllo di qualità (QC) della National Library of Medicine (NLM). Lo sponsor o lo sperimentatore potrebbe dover rivedere e inviare un record di studio una o più volte prima che i criteri di revisione QC di NLM siano soddisfatti. È responsabilità dello sponsor o dello sperimentatore garantire che il record dello studio sia coerente con i criteri di revisione QC NLM.
28 luglio 2026

Primo Inserito (Effettivo)

Primo Inserito

La data in cui il record dello studio è stato disponibile per la prima volta su ClinicalTrials.gov dopo la conclusione della revisione del controllo di qualità (QC) della National Library of Medicine (NLM). In genere c'è un ritardo di alcuni giorni tra la data in cui lo sponsor dello studio o lo sperimentatore ha presentato il record dello studio e la prima data pubblicata.
31 luglio 2026

Aggiornamenti dei record di studio

Ultimo aggiornamento pubblicato (Effettivo)

Ultimo aggiornamento pubblicato

La data più recente in cui le modifiche al record di uno studio sono state rese disponibili su ClinicalTrials.gov. Potrebbe esserci un ritardo tra il momento in cui le modifiche sono state inviate a ClinicalTrials.gov dallo sponsor o dallo sperimentatore dello studio (data di invio dell'ultimo aggiornamento) e la data di pubblicazione dell'ultimo aggiornamento.
31 luglio 2026

Ultimo aggiornamento inviato che soddisfa i criteri QC

Ultimo aggiornamento inviato che soddisfa i criteri QC

La data più recente in cui lo sponsor dello studio o il ricercatore ha presentato modifiche a un record di studio che sono coerenti con i criteri di revisione del controllo di qualità (QC) della National Library of Medicine (NLM). È responsabilità dello sponsor o dello sperimentatore garantire che il record dello studio sia coerente con i criteri di revisione QC NLM.
28 luglio 2026

Ultimo verificato

Ultimo verificato

La data più recente in cui lo sponsor dello studio o il ricercatore ha confermato che le informazioni su uno studio clinico su ClinicalTrials.gov sono accurate e aggiornate. Se uno studio con stato di reclutamento di reclutamento; non ancora reclutamento; o attivo, non reclutamento non è stato confermato negli ultimi 2 anni, lo stato di reclutamento dello studio viene mostrato come sconosciuto.
1 luglio 2026

Maggiori informazioni

Termini relativi a questo studio

Parole chiave

Termini MeSH pertinenti aggiuntivi

Altri numeri di identificazione dello studio

Altri numeri di identificazione dello studio

Identificatori o numeri ID diversi dal numero NCT assegnati a uno studio clinico dallo sponsor, dai finanziatori o da altri dello studio. Questi numeri possono includere identificatori univoci di altri registri di sperimentazione e numeri di sovvenzioni del National Institutes of Health.
  • APHP261032

Piano per i dati dei singoli partecipanti (IPD)

Hai intenzione di condividere i dati dei singoli partecipanti (IPD)?

INDECISO

Informazioni su farmaci e dispositivi, documenti di studio

Studia un prodotto farmaceutico regolamentato dalla FDA degli Stati Uniti

No

Studia un dispositivo regolamentato dalla FDA degli Stati Uniti

No

Queste informazioni sono state recuperate direttamente dal sito web clinicaltrials.gov senza alcuna modifica. In caso di richieste di modifica, rimozione o aggiornamento dei dettagli dello studio, contattare register@clinicaltrials.gov. Non appena verrà implementata una modifica su clinicaltrials.gov, questa verrà aggiornata automaticamente anche sul nostro sito web .

Impostazioni dei cookie

Utilizziamo i cookie per assicurarci di darti la migliore esperienza sul nostro sito web. Per maggiori dettagli leggi attentamente la nostra Informativa sulla privacy e sui cookie. ...>>>Puoi modificare le tue preferenze o revocare il tuo consenso in qualsiasi momento eliminando i cookie dal tuo sito web o computer come descritto nella policy. Accettalo e scegli le tue preferenze spuntando le caselle corrispondenti nella sezione "Gestisci impostazioni" di seguito. Leggi attentamente i nostri Termini di servizio prima di procedere con l'utilizzo di qualsiasi parte di questo sito web.
«Gestisci impostazioni