Deze pagina is automatisch vertaald en de nauwkeurigheid van de vertaling kan niet worden gegarandeerd. Raadpleeg de Engelse versie voor een brontekst.

Impact en veiligheid van AI bij besluitvorming op de ICU: een simulatie-experiment (ICU)

24 februari 2023 bijgewerkt door: Imperial College London

De impact van de inzet van kunstmatige intelligentie (AI) in zorgomgevingen is onduidelijk, met name wat betreft de invloed op menselijke besluitvormers. Eerder onderzoek toonde aan dat AI-waarschuwingen vaak werden genegeerd (Kamal et al., 2020 ) of konden leiden tot onverwacht gedrag met verslechtering van de patiëntresultaten (Wilson et al., 2021 ). Aan de andere kant kan een buitensporig vertrouwen in de AI verschillende nadelige gevolgen hebben, waaronder het vermogen om schadelijke AI-beslissingen te detecteren, wat kan leiden tot schade aan de patiënt en tot het onbekwaam maken van mensen. Sommige van deze aspecten hebben te maken met automatiseringsbias.

In deze simulatiestudie willen de onderzoekers meten of medische beslissingen op gebieden met hoge klinische onzekerheid worden gewijzigd door het gebruik van een op AI gebaseerde tool voor klinische besluitvorming. Hoe de dosis van intraveneuze vloeistoffen (IVF) en vasopressoren die door artsen worden toegediend aan volwassen patiënten met sepsis (ernstige infectie met orgaanfalen) op de IC, verandert als gevolg van het bekendmaken van de doses die door een hypothetische AI ​​worden voorgesteld, zal worden gemeten. Het gebied van reanimatie bij sepsis is slecht gecodificeerd, met grote onzekerheid die in de praktijk tot grote variabiliteit leidt. In deze studie wordt de AI-clinicus niet specifiek genoemd (Komorowski et al., 2018). In plaats daarvan zullen de onderzoekers een hypothetische AI ​​beschrijven waarvoor enig bewijs van effectiviteit bestaat op basis van retrospectieve gegevens in een andere klinische setting (bijv. bewijs van effectiviteit of veiligheid. Als zodanig is het mogelijk dat deze hypothetische AI ​​onveilige suggesties doet. De onderzoekers zullen opzettelijk onveilige AI-suggesties introduceren (in willekeurige volgorde), om de gevoeligheid van onze deelnemers te meten om deze te detecteren.

Studie Overzicht

Toestand

Voltooid

Conditie

Interventie / Behandeling

Gedetailleerde beschrijving

De impact van de inzet van kunstmatige intelligentie (AI) in zorgomgevingen is onduidelijk, met name wat betreft de invloed op menselijke besluitvormers. Eerder onderzoek toonde aan dat AI-waarschuwingen vaak werden genegeerd (Kamal et al., 2020 ) of konden leiden tot onverwacht gedrag met verslechtering van de patiëntresultaten (Wilson et al., 2021 ). Aan de andere kant kan een buitensporig vertrouwen in de AI verschillende nadelige gevolgen hebben, waaronder het vermogen om schadelijke AI-beslissingen te detecteren, wat kan leiden tot schade aan de patiënt en tot het onbekwaam maken van mensen. Sommige van deze aspecten hebben te maken met automatiseringsbias.

In deze simulatiestudie willen de onderzoekers meten of medische beslissingen op gebieden met hoge klinische onzekerheid worden gewijzigd door het gebruik van een op AI gebaseerde tool voor klinische besluitvorming. Hoe de dosis van intraveneuze vloeistoffen (IVF) en vasopressoren die door artsen worden toegediend aan volwassen patiënten met sepsis (ernstige infectie met orgaanfalen) op de IC, verandert als gevolg van het bekendmaken van de doses die door een hypothetische AI ​​worden voorgesteld, zal worden gemeten. Het gebied van reanimatie bij sepsis is slecht gecodificeerd, met grote onzekerheid die in de praktijk tot grote variabiliteit leidt. In deze studie wordt de AI-clinicus niet specifiek genoemd (Komorowski et al., 2018). In plaats daarvan zullen de onderzoekers een hypothetische AI ​​beschrijven waarvoor enig bewijs van effectiviteit bestaat op basis van retrospectieve gegevens in een andere klinische setting (bijv. bewijs van effectiviteit of veiligheid. Als zodanig is het mogelijk dat deze hypothetische AI ​​onveilige suggesties doet. De onderzoekers zullen opzettelijk onveilige AI-suggesties introduceren (in willekeurige volgorde), om de gevoeligheid van onze deelnemers te meten om deze te detecteren.

De onderzoekers gaan na welke kenmerken van de deelnemers verband houden met een grotere kans om door de AI te worden beïnvloed, en voeren een aantal vooraf gespecificeerde subgroepanalyses uit, b.v. junior versus senior IC-artsen, en het scheiden van degenen met een positieve of een negatieve houding ten opzichte van AI.

Studietype

Observationeel

Inschrijving (Werkelijk)

38

Contacten en locaties

In dit gedeelte vindt u de contactgegevens van degenen die het onderzoek uitvoeren en informatie over waar dit onderzoek wordt uitgevoerd.

Studie Locaties

Deelname Criteria

Onderzoekers zoeken naar mensen die aan een bepaalde beschrijving voldoen, de zogenaamde geschiktheidscriteria. Enkele voorbeelden van deze criteria zijn iemands algemene gezondheidstoestand of eerdere behandelingen.

Geschiktheidscriteria

Leeftijden die in aanmerking komen voor studie

18 jaar en ouder (Volwassen, Oudere volwassene)

Accepteert gezonde vrijwilligers

Ja

Geslachten die in aanmerking komen voor studie

Allemaal

Bemonsteringsmethode

Niet-waarschijnlijkheidssteekproef

Studie Bevolking

Junior (senior huismedewerker) of senior (registrar/collega/consulent) IC-arts

Beschrijving

Inclusiecriteria:

  • Junior (senior huismedewerker) of senior (registrar/collega/consulent) IC-arts

Uitsluitingscriteria:

  • Deelnemers die niet voldoen aan de inclusiecriteria.

Studie plan

Dit gedeelte bevat details van het studieplan, inclusief hoe de studie is opgezet en wat de studie meet.

Hoe is de studie opgezet?

Ontwerpdetails

Cohorten en interventies

Groep / Cohort
Interventie / Behandeling
IC-artsen
nvt - Er is geen tussenkomst. Clinici zullen de suggesties van een hypothetische AI ​​beoordelen

Wat meet het onderzoek?

Primaire uitkomstmaten

Uitkomstmaat
Maatregel Beschrijving
Tijdsspanne
Invloed van AI op IC-clinici
Tijdsspanne: 3 maanden
Invloed van AI op IC-clinici, dit zal worden onderverdeeld in de volgende categorieën: algemeen en gestratificeerd naar veilige/onveilige, junior/senior en positieve/negatieve houding ten opzichte van AI.
3 maanden

Secundaire uitkomstmaten

Uitkomstmaat
Maatregel Beschrijving
Tijdsspanne
Kenmerken van de deelnemers
Tijdsspanne: 3 maanden
Wat zijn de kenmerken van degenen die deelnemen aan de simulatie en hoe beïnvloedt dit de besluitvorming.
3 maanden
Vertrouw op AI
Tijdsspanne: 3 maanden
Hoeveel vertrouwen IC-artsen op het AI-systeem.
3 maanden
Vertrouwen in beslissingen van deelnemers
Tijdsspanne: 3 maanden
Hoeveel vertrouwen stellen clinici in het AI-systeem?
3 maanden
Proportie tijd met aandacht voor AI uitleg
Tijdsspanne: 3 maanden
Waar is de aandacht op gericht tijdens de simulatie
3 maanden

Medewerkers en onderzoekers

Hier vindt u mensen en organisaties die betrokken zijn bij dit onderzoek.

Studie record data

Deze datums volgen de voortgang van het onderzoeksdossier en de samenvatting van de ingediende resultaten bij ClinicalTrials.gov. Studieverslagen en gerapporteerde resultaten worden beoordeeld door de National Library of Medicine (NLM) om er zeker van te zijn dat ze voldoen aan specifieke kwaliteitscontrolenormen voordat ze op de openbare website worden geplaatst.

Bestudeer belangrijke data

Studie start (Werkelijk)

22 juli 2022

Primaire voltooiing (Werkelijk)

31 oktober 2022

Studie voltooiing (Werkelijk)

31 oktober 2022

Studieregistratiedata

Eerst ingediend

4 augustus 2022

Eerst ingediend dat voldeed aan de QC-criteria

8 augustus 2022

Eerst geplaatst (Werkelijk)

10 augustus 2022

Updates van studierecords

Laatste update geplaatst (Schatting)

27 februari 2023

Laatste update ingediend die voldeed aan QC-criteria

24 februari 2023

Laatst geverifieerd

1 februari 2023

Meer informatie

Termen gerelateerd aan deze studie

Andere studie-ID-nummers

  • 22CX7592

Plan Individuele Deelnemersgegevens (IPD)

Bent u van plan om gegevens van individuele deelnemers (IPD) te delen?

NEE

Beschrijving IPD-plan

Gegevens van individuele deelnemers worden alleen beoordeeld door het onderzoeksteam.

Informatie over medicijnen en apparaten, studiedocumenten

Bestudeert een door de Amerikaanse FDA gereguleerd geneesmiddel

Nee

Bestudeert een door de Amerikaanse FDA gereguleerd apparaatproduct

Nee

Deze informatie is zonder wijzigingen rechtstreeks van de website clinicaltrials.gov gehaald. Als u verzoeken heeft om uw onderzoeksgegevens te wijzigen, te verwijderen of bij te werken, neem dan contact op met register@clinicaltrials.gov. Zodra er een wijziging wordt doorgevoerd op clinicaltrials.gov, wordt deze ook automatisch bijgewerkt op onze website .

Abonneren