Denne siden ble automatisk oversatt og nøyaktigheten av oversettelsen er ikke garantert. Vennligst referer til engelsk versjon for en kildetekst.

Påvirkning og sikkerhet av AI i beslutningstaking i ICU: et simuleringseksperiment (ICU)

24. februar 2023 oppdatert av: Imperial College London

Virkningen av å distribuere kunstig intelligens (AI) i helsevesenet er uklar, spesielt med hensyn til hvordan det vil påvirke menneskelige beslutningstakere. Tidligere forskning viste at AI-varsler ofte ble ignorert (Kamal et al., 2020) eller kunne føre til uventet oppførsel med forverring av pasientresultater (Wilson et al., 2021). På den annen side kan overdreven tillit og tillit til AI ha flere uheldige konsekvenser, inkludert evnen til å oppdage skadelige AI-avgjørelser, noe som kan føre til pasientskade så vel som menneskelig dekompetanse. Noen av disse aspektene er knyttet til automatiseringsbias.

I denne simuleringsstudien har etterforskerne til hensikt å måle om medisinske beslutninger i områder med høy klinisk usikkerhet endres ved bruk av et AI-basert klinisk beslutningsstøtteverktøy. Hvordan dosen av intravenøse væsker (IVF) og vasopressorer administrert av leger hos voksne pasienter med sepsis (alvorlig infeksjon med organsvikt) på intensivavdelingen, endres som følge av avsløring av dosene foreslått av en hypotetisk AI, vil bli målt. Området for gjenoppliving av sepsis er dårlig kodifisert, med høy usikkerhet som fører til stor variasjon i praksis. Denne studien vil ikke spesifikt nevne AI-klinikeren (Komorowski et al., 2018). I stedet vil etterforskerne beskrive en hypotetisk kunstig intelligens som det er bevis for effektivitet på retrospektive data i en annen klinisk setting (f.eks. en modell som ble retrospektivt validert ved bruk av data fra et annet land enn kildedataene som ble brukt til modellopplæring), men ingen prospektiv bevis på effektivitet eller sikkerhet. Som sådan er det mulig for denne hypotetiske AI å gi usikre forslag. Etterforskerne vil med vilje introdusere usikre AI-forslag (i tilfeldig rekkefølge), for å måle følsomheten til deltakerne våre for å oppdage disse.

Studieoversikt

Status

Fullført

Forhold

Intervensjon / Behandling

Detaljert beskrivelse

Virkningen av å distribuere kunstig intelligens (AI) i helsevesenet er uklar, spesielt med hensyn til hvordan det vil påvirke menneskelige beslutningstakere. Tidligere forskning viste at AI-varsler ofte ble ignorert (Kamal et al., 2020) eller kunne føre til uventet oppførsel med forverring av pasientresultater (Wilson et al., 2021). På den annen side kan overdreven tillit og tillit til AI ha flere uheldige konsekvenser, inkludert evnen til å oppdage skadelige AI-avgjørelser, noe som kan føre til pasientskade så vel som menneskelig dekompetanse. Noen av disse aspektene er knyttet til automatiseringsbias.

I denne simuleringsstudien har etterforskerne til hensikt å måle om medisinske beslutninger i områder med høy klinisk usikkerhet endres ved bruk av et AI-basert klinisk beslutningsstøtteverktøy. Hvordan dosen av intravenøse væsker (IVF) og vasopressorer administrert av leger hos voksne pasienter med sepsis (alvorlig infeksjon med organsvikt) på intensivavdelingen, endres som følge av avsløring av dosene foreslått av en hypotetisk AI, vil bli målt. Området for gjenoppliving av sepsis er dårlig kodifisert, med høy usikkerhet som fører til stor variasjon i praksis. Denne studien vil ikke spesifikt nevne AI-klinikeren (Komorowski et al., 2018). I stedet vil etterforskerne beskrive en hypotetisk kunstig intelligens som det er bevis for effektivitet på retrospektive data i en annen klinisk setting (f.eks. en modell som ble retrospektivt validert ved bruk av data fra et annet land enn kildedataene som ble brukt til modellopplæring), men ingen prospektiv bevis på effektivitet eller sikkerhet. Som sådan er det mulig for denne hypotetiske AI å gi usikre forslag. Etterforskerne vil med vilje introdusere usikre AI-forslag (i tilfeldig rekkefølge), for å måle følsomheten til deltakerne våre for å oppdage disse.

Etterforskerne skal undersøke hvilke deltakeregenskaper som er knyttet til økt sannsynlighet for å bli påvirket av AI, og gjennomføre en rekke forhåndsspesifiserte undergruppeanalyser, f.eks. junior kontra senior ICU leger, og skille de med en positiv eller en negativ holdning til AI.

Studietype

Observasjonsmessig

Registrering (Faktiske)

38

Kontakter og plasseringer

Denne delen inneholder kontaktinformasjon for de som utfører studien, og informasjon om hvor denne studien blir utført.

Studiesteder

      • London, Storbritannia, W2 1PG
        • Imperial College Hospitals NHS Trust

Deltakelseskriterier

Forskere ser etter personer som passer til en bestemt beskrivelse, kalt kvalifikasjonskriterier. Noen eksempler på disse kriteriene er en persons generelle helsetilstand eller tidligere behandlinger.

Kvalifikasjonskriterier

Alder som er kvalifisert for studier

18 år og eldre (Voksen, Eldre voksen)

Tar imot friske frivillige

Ja

Kjønn som er kvalifisert for studier

Alle

Prøvetakingsmetode

Ikke-sannsynlighetsprøve

Studiepopulasjon

Junior (senior husoffiser) eller senior (registrar/stipendiat/konsulent) intensivlege

Beskrivelse

Inklusjonskriterier:

  • Junior (senior husoffiser) eller senior (registrar/stipendiat/konsulent) intensivlege

Ekskluderingskriterier:

  • Deltakere som ikke oppfyller inkluderingskriteriene.

Studieplan

Denne delen gir detaljer om studieplanen, inkludert hvordan studien er utformet og hva studien måler.

Hvordan er studiet utformet?

Designdetaljer

Kohorter og intervensjoner

Gruppe / Kohort
Intervensjon / Behandling
ICU klinikere
n/a - Det er ingen intervensjon. Klinikere vil vurdere forslagene til en hypotetisk AI

Hva måler studien?

Primære resultatmål

Resultatmål
Tiltaksbeskrivelse
Tidsramme
Innflytelse av AI på ICU-klinikere
Tidsramme: 3 måneder
Påvirkning av AI på ICU-klinikere, vil dette deles inn i følgende kategorier: samlet og lagdelt etter trygg/utrygg, junior/senior og positiv/negativ holdning til AI.
3 måneder

Sekundære resultatmål

Resultatmål
Tiltaksbeskrivelse
Tidsramme
Deltakernes egenskaper
Tidsramme: 3 måneder
Hva kjennetegner de som deltar i simuleringen og hvordan påvirker dette beslutningstaking.
3 måneder
Stol på AI
Tidsramme: 3 måneder
Hvor mye stoler ICU-klinikere på AI-systemet.
3 måneder
Tillit til deltakernes beslutninger
Tidsramme: 3 måneder
Hvor mye tillit har klinikere til AI-systemet
3 måneder
Andel tid med oppmerksomhet på AI-forklaring
Tidsramme: 3 måneder
Hvor er oppmerksomheten rettet under simuleringen
3 måneder

Samarbeidspartnere og etterforskere

Det er her du vil finne personer og organisasjoner som er involvert i denne studien.

Samarbeidspartnere

Studierekorddatoer

Disse datoene sporer fremdriften for innsending av studieposter og sammendragsresultater til ClinicalTrials.gov. Studieposter og rapporterte resultater gjennomgås av National Library of Medicine (NLM) for å sikre at de oppfyller spesifikke kvalitetskontrollstandarder før de legges ut på det offentlige nettstedet.

Studer hoveddatoer

Studiestart (Faktiske)

22. juli 2022

Primær fullføring (Faktiske)

31. oktober 2022

Studiet fullført (Faktiske)

31. oktober 2022

Datoer for studieregistrering

Først innsendt

4. august 2022

Først innsendt som oppfylte QC-kriteriene

8. august 2022

Først lagt ut (Faktiske)

10. august 2022

Oppdateringer av studieposter

Sist oppdatering lagt ut (Anslag)

27. februar 2023

Siste oppdatering sendt inn som oppfylte QC-kriteriene

24. februar 2023

Sist bekreftet

1. februar 2023

Mer informasjon

Begreper knyttet til denne studien

Nøkkelord

Andre studie-ID-numre

  • 22CX7592

Plan for individuelle deltakerdata (IPD)

Planlegger du å dele individuelle deltakerdata (IPD)?

NEI

IPD-planbeskrivelse

Individuelle deltakerdata vil kun bli vurdert av studieteamet.

Legemiddel- og utstyrsinformasjon, studiedokumenter

Studerer et amerikansk FDA-regulert medikamentprodukt

Nei

Studerer et amerikansk FDA-regulert enhetsprodukt

Nei

Denne informasjonen ble hentet direkte fra nettstedet clinicaltrials.gov uten noen endringer. Hvis du har noen forespørsler om å endre, fjerne eller oppdatere studiedetaljene dine, vennligst kontakt register@clinicaltrials.gov. Så snart en endring er implementert på clinicaltrials.gov, vil denne også bli oppdatert automatisk på nettstedet vårt. .

Abonnere