Centro di simulazione del sistema di supporto alle decisioni cliniche intelligenti artificiali Studio per l'accettazione della tecnologia

L'esperimento iniziale distribuirà un algoritmo di apprendimento automatico precedentemente convalidato addestrato su set di dati clinici esistenti all'interno di scenari di simulazione in cui viene valutato un paziente con sanguinamento gastrointestinale acuto (a basso, moderato e alto rischio di esito negativo).

Prima della simulazione, a tutti i partecipanti verrà fornito un modulo educativo di base sull'intelligenza artificiale, l'apprendimento automatico e il supporto decisionale clinico. Gli investigatori stabiliranno la sicurezza psicologica descrivendo in dettaglio ciò che è disponibile nella stanza, l'opportunità di chiamare un consulente e la disponibilità di studi di laboratorio e radiografici. Ogni scenario clinico verrà eseguito per circa 10 minuti sulla base di casi reali di pazienti in cui i segni vitali cambiano nel tempo e i valori di laboratorio sono resi disponibili in punti specifici della valutazione. Lo studio segue un disegno fattoriale 3 (rischio dello scenario: basso, medio, vs. alto) x 2 (framing AI: strumento vs. membro del team) x 2 (trasparenza: basso vs. alto). Ogni partecipante riceve tutti e tre gli scenari in ordine crescente di rischio (fattore all'interno del soggetto), ma viene randomizzato a un inquadramento AI e una condizione di trattamento della trasparenza (fattori tra soggetti).

Per il trattamento dell'inquadratura dei membri del team AI, durante il briefing pre-simulazione, ai partecipanti verrà fornito un framework di algoritmi di intelligenza artificiale/apprendimento automatico come membro del team, e non solo uno strumento, con l'introduzione del concetto di una teoria della mente per gli algoritmi per capire come il loro ragionamento può integrare il ragionamento umano. Inoltre, la stazione di lavoro del computer su cui viene eseguito l'algoritmo sarà collocata accanto al letto del paziente. Inoltre, l'AI-CDSS sarà presentato in un'interfaccia in stile chatbot ChatGPT/GPT-4 con cui i fornitori possono naturalmente interagire al capezzale. Nella condizione di tool framing, verrà fornita loro una tipica spiegazione di AI-CDSS come strumento. In questo caso, il computer con l'algoritmo verrà posizionato in un angolo lontano dal paziente. In quanto tale, sarà presentato come uno sgabello tipo calcolatrice.

Per il trattamento della trasparenza, l'output algoritmico avrà una trasparenza "bassa" (con solo la valutazione del rischio e la raccomandazione) o una trasparenza "elevata" (con una spiegazione degli input del modello e la possibilità di interrogare gli input tramite clic diretti dall'utente in un web app nella condizione di framing dello strumento o direttamente con l'interfaccia derivata da ChatGPT in grado di elaborare le query dirette dall'utente in un chatbot in linguaggio naturale di facile utilizzo nel framework dei membri del team, con conseguente presentazione di input che influenzano l'output del modello per fornire un modello mentale di l'algoritmo).