Impatto e sicurezza dell'IA nel processo decisionale in terapia intensiva: un esperimento di simulazione (ICU)
L'impatto dell'implementazione dell'intelligenza artificiale (AI) nelle strutture sanitarie non è chiaro, in particolare per quanto riguarda il modo in cui influenzerà i decisori umani. Precedenti ricerche hanno dimostrato che gli avvisi di intelligenza artificiale venivano spesso ignorati (Kamal et al., 2020) o potevano portare a comportamenti imprevisti con peggioramento degli esiti dei pazienti (Wilson et al., 2021). D'altra parte, l'eccessiva fiducia riposta nell'IA potrebbe avere diverse conseguenze negative, tra cui la capacità di rilevare decisioni dannose dell'IA, con conseguenti danni ai pazienti e dequalificazione umana. Alcuni di questi aspetti riguardano il pregiudizio dell'automazione.
In questo studio di simulazione, i ricercatori intendono misurare se le decisioni mediche in aree di elevata incertezza clinica vengono modificate dall'uso di uno strumento di supporto alle decisioni cliniche basato sull'intelligenza artificiale. Come verrà misurata la dose di liquidi per via endovenosa (IVF) e vasopressori somministrati dai medici in pazienti adulti con sepsi (infezione grave con insufficienza d'organo) in terapia intensiva, a seguito della divulgazione delle dosi suggerite da un'ipotetica IA. L'area della rianimazione della sepsi è scarsamente codificata, con un'elevata incertezza che porta a un'elevata variabilità nella pratica. Questo studio non menzionerà specificamente il clinico AI (Komorowski et al., 2018). Invece, i ricercatori descriveranno un'ipotetica IA per la quale vi sono alcune prove di efficacia su dati retrospettivi in un altro contesto clinico (ad esempio un modello che è stato validato retrospettivamente utilizzando dati provenienti da un paese diverso rispetto ai dati di origine utilizzati per l'addestramento del modello) ma nessuna prospettiva prove di efficacia o sicurezza. In quanto tale, è possibile che questa ipotetica IA fornisca suggerimenti non sicuri. Gli investigatori introdurranno intenzionalmente suggerimenti di IA non sicuri (in ordine casuale), per misurare la sensibilità dei nostri partecipanti nel rilevarli.
Panoramica dello studio
Stato
Stato
Condizioni
Condizioni
Intervento / Trattamento
Intervento / Trattamento
Descrizione dettagliata
L'impatto dell'implementazione dell'intelligenza artificiale (AI) nelle strutture sanitarie non è chiaro, in particolare per quanto riguarda il modo in cui influenzerà i decisori umani. Precedenti ricerche hanno dimostrato che gli avvisi di intelligenza artificiale venivano spesso ignorati (Kamal et al., 2020) o potevano portare a comportamenti imprevisti con peggioramento degli esiti dei pazienti (Wilson et al., 2021). D'altra parte, l'eccessiva fiducia riposta nell'IA potrebbe avere diverse conseguenze negative, tra cui la capacità di rilevare decisioni dannose dell'IA, con conseguenti danni ai pazienti e dequalificazione umana. Alcuni di questi aspetti riguardano il pregiudizio dell'automazione.
In questo studio di simulazione, i ricercatori intendono misurare se le decisioni mediche in aree di elevata incertezza clinica vengono modificate dall'uso di uno strumento di supporto alle decisioni cliniche basato sull'intelligenza artificiale. Come verrà misurata la dose di liquidi per via endovenosa (IVF) e vasopressori somministrati dai medici in pazienti adulti con sepsi (infezione grave con insufficienza d'organo) in terapia intensiva, a seguito della divulgazione delle dosi suggerite da un'ipotetica IA. L'area della rianimazione della sepsi è scarsamente codificata, con un'elevata incertezza che porta a un'elevata variabilità nella pratica. Questo studio non menzionerà specificamente il clinico AI (Komorowski et al., 2018). Invece, i ricercatori descriveranno un'ipotetica IA per la quale vi sono alcune prove di efficacia su dati retrospettivi in un altro contesto clinico (ad esempio un modello che è stato validato retrospettivamente utilizzando dati provenienti da un paese diverso rispetto ai dati di origine utilizzati per l'addestramento del modello) ma nessuna prospettiva prove di efficacia o sicurezza. In quanto tale, è possibile che questa ipotetica IA fornisca suggerimenti non sicuri. Gli investigatori introdurranno intenzionalmente suggerimenti di IA non sicuri (in ordine casuale), per misurare la sensibilità dei nostri partecipanti nel rilevarli.
Gli investigatori esamineranno quali caratteristiche dei partecipanti sono collegate a una maggiore probabilità di essere influenzati dall'IA e condurranno una serie di analisi di sottogruppi pre-specificate, ad es. medici di terapia intensiva junior rispetto a quelli senior e separando quelli con un atteggiamento positivo o negativo nei confronti dell'IA.
Tipo di studio
Tipo di studio
Iscrizione (Effettivo)
Iscrizione
Contatti e Sedi
Contatto studio
Contatto studio
- Nome: Elizabeth Fagbodun
- Numero di telefono: 07548094320
- Email: e.fagbodun@imperial.ac.uk
Luoghi di studio
-
-
-
London, Regno Unito, W2 1PG
- Imperial College Hospitals NHS Trust
-
-
Criteri di partecipazione
Criteri di ammissibilità
Criteri di ammissibilità
Età idonea allo studio
Accetta volontari sani
Sessi ammissibili allo studio
Metodo di campionamento
Popolazione di studio
Descrizione
Criterio di inclusione:
- Medico di terapia intensiva junior (senior house officer) o senior (cancelliere/collega/consulente).
Criteri di esclusione:
- Partecipanti che non soddisfano i criteri di inclusione.
Piano di studio
Come è strutturato lo studio?
Dettagli di progettazione
Numero di gruppi/coorti
Coorti e interventi
Gruppo / CoorteGruppo / Coorte |
Intervento / TrattamentoIntervento / Trattamento |
|---|---|
|
Clinici di terapia intensiva
|
n/a - Non c'è intervento.
I medici esamineranno i suggerimenti di un'ipotetica IA
|
Cosa sta misurando lo studio?
Misure di risultato primarie
Misure di risultato primarie
Misura del risultato |
Misura Descrizione |
Lasso di tempo |
|---|---|---|
|
Influenza dell'IA sui medici di terapia intensiva
Lasso di tempo: 3 mesi
|
Influenza dell'IA sui medici in terapia intensiva, sarà suddivisa nelle seguenti categorie: complessiva e stratificata per atteggiamento sicuro/non sicuro, junior/senior e positivo/negativo nei confronti dell'IA.
|
3 mesi
|
Misure di risultato secondarie
Misure di risultato secondarie
Misura del risultato |
Misura Descrizione |
Lasso di tempo |
|---|---|---|
|
Caratteristiche dei partecipanti
Lasso di tempo: 3 mesi
|
Quali sono le caratteristiche di coloro che prendono parte alla simulazione e in che modo ciò influisce sul processo decisionale.
|
3 mesi
|
|
Fidati dell'intelligenza artificiale
Lasso di tempo: 3 mesi
|
Quanto i medici di terapia intensiva si fidano del sistema di intelligenza artificiale.
|
3 mesi
|
|
Fiducia nelle decisioni dei partecipanti
Lasso di tempo: 3 mesi
|
Quanta fiducia ripongono i medici nel sistema di intelligenza artificiale
|
3 mesi
|
|
Proporzione di tempo con attenzione sulla spiegazione AI
Lasso di tempo: 3 mesi
|
Dove è focalizzata l'attenzione durante la simulazione
|
3 mesi
|
Collaboratori e investigatori
Sponsor
Sponsor
Collaboratori
Collaboratori
Studiare le date dei record
Studia le date principali
Inizio studio (Effettivo)
Inizio studio
Completamento primario (Effettivo)
Completamento primario
Completamento dello studio (Effettivo)
Completamento dello studio
Date di iscrizione allo studio
Primo inviato
Primo inviato
Primo inviato che soddisfa i criteri di controllo qualità
Primo inviato che soddisfa i criteri di controllo qualità
Primo Inserito (Effettivo)
Primo Inserito
Aggiornamenti dei record di studio
Ultimo aggiornamento pubblicato (Stima)
Ultimo aggiornamento pubblicato
Ultimo aggiornamento inviato che soddisfa i criteri QC
Ultimo aggiornamento inviato che soddisfa i criteri QC
Ultimo verificato
Ultimo verificato
Maggiori informazioni
Termini relativi a questo studio
Parole chiave
Altri numeri di identificazione dello studio
Altri numeri di identificazione dello studio
- 22CX7592
Piano per i dati dei singoli partecipanti (IPD)
Hai intenzione di condividere i dati dei singoli partecipanti (IPD)?
Descrizione del piano IPD
Informazioni su farmaci e dispositivi, documenti di studio
Studia un prodotto farmaceutico regolamentato dalla FDA degli Stati Uniti
Studia un dispositivo regolamentato dalla FDA degli Stati Uniti
Queste informazioni sono state recuperate direttamente dal sito web clinicaltrials.gov senza alcuna modifica. In caso di richieste di modifica, rimozione o aggiornamento dei dettagli dello studio, contattare register@clinicaltrials.gov. Non appena verrà implementata una modifica su clinicaltrials.gov, questa verrà aggiornata automaticamente anche sul nostro sito web .