Dopad a bezpečnost AI při rozhodování na JIP: Simulační experiment (ICU)
Dopad nasazení umělé inteligence (AI) v prostředí zdravotní péče je nejasný, zejména s ohledem na to, jak to ovlivní lidské rozhodování. Předchozí výzkum ukázal, že výstrahy AI byly často ignorovány (Kamal et al., 2020) nebo mohly vést k neočekávanému chování se zhoršením výsledků pacientů (Wilson et al., 2021). Na druhou stranu by nadměrná důvěra a důvěra v AI mohla mít několik nepříznivých důsledků, včetně schopnosti odhalit škodlivá rozhodnutí AI, což by mohlo vést k poškození pacienta a také k potlačování lidských schopností. Některé z těchto aspektů se týkají zkreslení automatizace.
V této simulační studii mají výzkumníci v úmyslu změřit, zda jsou lékařská rozhodnutí v oblastech s vysokou klinickou nejistotou modifikována použitím nástroje na podporu klinického rozhodování založeného na umělé inteligenci. Jak se bude měřit dávka intravenózních tekutin (IVF) a vazopresorů podávaných lékaři u dospělých pacientů se sepsí (závažná infekce s orgánovým selháním) na JIP) v důsledku zveřejnění dávek navržených hypotetickou AI. Oblast resuscitace sepse je špatně kodifikována, vysoká nejistota vede k vysoké variabilitě v praxi. Tato studie nebude konkrétně zmiňovat AI Clinician (Komorowski et al., 2018). Místo toho výzkumníci popíší hypotetickou AI, pro kterou existují určité důkazy o účinnosti na retrospektivních datech v jiném klinickém prostředí (např. model, který byl retrospektivně validován s použitím dat z jiné země, než jsou zdrojová data použitá pro modelový trénink), ale žádná prospektivní důkaz o účinnosti nebo bezpečnosti. Jako taková je možné, aby tato hypotetická AI poskytovala nebezpečné návrhy. Vyšetřovatelé záměrně zavedou nebezpečné návrhy umělé inteligence (v náhodném pořadí), aby změřili citlivost našich účastníků při jejich odhalování.
Přehled studie
Postavení
Postavení
Podmínky
Podmínky
Intervence / Léčba
Intervence / Léčba
Detailní popis
Dopad nasazení umělé inteligence (AI) v prostředí zdravotní péče je nejasný, zejména s ohledem na to, jak to ovlivní lidské rozhodování. Předchozí výzkum ukázal, že výstrahy AI byly často ignorovány (Kamal et al., 2020) nebo mohly vést k neočekávanému chování se zhoršením výsledků pacientů (Wilson et al., 2021). Na druhou stranu by nadměrná důvěra a důvěra v AI mohla mít několik nepříznivých důsledků, včetně schopnosti odhalit škodlivá rozhodnutí AI, což by mohlo vést k poškození pacienta a také k potlačování lidských schopností. Některé z těchto aspektů se týkají zkreslení automatizace.
V této simulační studii mají výzkumníci v úmyslu změřit, zda jsou lékařská rozhodnutí v oblastech s vysokou klinickou nejistotou modifikována použitím nástroje na podporu klinického rozhodování založeného na umělé inteligenci. Jak se bude měřit dávka intravenózních tekutin (IVF) a vazopresorů podávaných lékaři u dospělých pacientů se sepsí (závažná infekce s orgánovým selháním) na JIP) v důsledku zveřejnění dávek navržených hypotetickou AI. Oblast resuscitace sepse je špatně kodifikována, vysoká nejistota vede k vysoké variabilitě v praxi. Tato studie nebude konkrétně zmiňovat AI Clinician (Komorowski et al., 2018). Místo toho výzkumníci popíší hypotetickou AI, pro kterou existují určité důkazy o účinnosti na retrospektivních datech v jiném klinickém prostředí (např. model, který byl retrospektivně validován s použitím dat z jiné země, než jsou zdrojová data použitá pro modelový trénink), ale žádná prospektivní důkaz o účinnosti nebo bezpečnosti. Jako taková je možné, aby tato hypotetická AI poskytovala nebezpečné návrhy. Vyšetřovatelé záměrně zavedou nebezpečné návrhy umělé inteligence (v náhodném pořadí), aby změřili citlivost našich účastníků při jejich odhalování.
Vyšetřovatelé budou zkoumat, jaké charakteristiky účastníků jsou spojeny se zvýšenou pravděpodobností ovlivnění AI, a provedou řadu předem specifikovaných podskupinových analýz, např. mladší a starší lékaři JIP a oddělování těch, kteří mají pozitivní nebo negativní vztah k AI.
Typ studie
Typ studie
Zápis (Aktuální)
Zápis
Kontakty a umístění
Studijní kontakt
Studijní kontakt
- Jméno: Elizabeth Fagbodun
- Telefonní číslo: 07548094320
- E-mail: e.fagbodun@imperial.ac.uk
Studijní místa
-
-
-
London, Spojené království, W2 1PG
- Imperial College Hospitals NHS Trust
-
-
Kritéria účasti
Kritéria způsobilosti
Kritéria způsobilosti
Věk způsobilý ke studiu
Přijímá zdravé dobrovolníky
Pohlaví způsobilá ke studiu
Metoda odběru vzorků
Studijní populace
Popis
Kritéria pro zařazení:
- Junior (senior house officer) nebo senior (registrátor/kolega/konzultant) lékař JIP
Kritéria vyloučení:
- Účastníci nesplňující kritéria pro zařazení.
Studijní plán
Jak je studie koncipována?
Detaily designu
Počet skupin / kohort
Kohorty a intervence
Skupina / kohortaSkupina / kohorta |
Intervence / LéčbaIntervence / Léčba |
|---|---|
|
Lékaři JIP
|
n/a - Žádný zásah.
Klinici posoudí návrhy hypotetické AI
|
Co je měření studie?
Primární výstupní opatření
Primární výstupní opatření
Měření výsledku |
Popis opatření |
Časové okno |
|---|---|---|
|
Vliv AI na lékaře JIP
Časové okno: 3 měsíce
|
Vliv AI na lékaře JIP bude rozdělen do následujících kategorií: celkový a stratifikovaný podle bezpečného/nebezpečného, mladšího/seniorského a pozitivního/negativního postoje k AI.
|
3 měsíce
|
Sekundární výstupní opatření
Sekundární výstupní opatření
Měření výsledku |
Popis opatření |
Časové okno |
|---|---|---|
|
Charakteristika účastníků
Časové okno: 3 měsíce
|
Jaké jsou charakteristiky účastníků simulace a jak to ovlivňuje rozhodování.
|
3 měsíce
|
|
Důvěřujte AI
Časové okno: 3 měsíce
|
Jak moc lékaři JIP důvěřují systému AI.
|
3 měsíce
|
|
Důvěra v rozhodnutí účastníků
Časové okno: 3 měsíce
|
Jak velkou důvěru lékaři vkládají do systému AI
|
3 měsíce
|
|
Podíl času s pozorností na vysvětlení AI
Časové okno: 3 měsíce
|
Kam je soustředěna pozornost během simulace
|
3 měsíce
|
Spolupracovníci a vyšetřovatelé
Sponzor
Sponzor
Spolupracovníci
Spolupracovníci
Termíny studijních záznamů
Hlavní termíny studia
Začátek studia (Aktuální)
Začátek studia
Primární dokončení (Aktuální)
Primární dokončení
Dokončení studie (Aktuální)
Dokončení studie
Termíny zápisu do studia
První předloženo
První předloženo
První předloženo, které splnilo kritéria kontroly kvality
První předloženo, které splnilo kritéria kontroly kvality
První zveřejněno (Aktuální)
První zveřejněno
Aktualizace studijních záznamů
Poslední zveřejněná aktualizace (Odhad)
Poslední zveřejněná aktualizace
Odeslaná poslední aktualizace, která splnila kritéria kontroly kvality
Odeslaná poslední aktualizace, která splnila kritéria kontroly kvality
Naposledy ověřeno
Naposledy ověřeno
Více informací
Termíny související s touto studií
Klíčová slova
Další identifikační čísla studie
Další identifikační čísla studie
- 22CX7592
Plán pro data jednotlivých účastníků (IPD)
Plánujete sdílet data jednotlivých účastníků (IPD)?
Popis plánu IPD
Informace o lécích a zařízeních, studijní dokumenty
Studuje lékový produkt regulovaný americkým FDA
Studuje produkt zařízení regulovaný americkým úřadem FDA
Tyto informace byly beze změn načteny přímo z webu clinicaltrials.gov. Máte-li jakékoli požadavky na změnu, odstranění nebo aktualizaci podrobností studie, kontaktujte prosím register@clinicaltrials.gov. Jakmile bude změna implementována na clinicaltrials.gov, bude automaticky aktualizována i na našem webu .