Tato stránka byla automaticky přeložena a přesnost překladu není zaručena. Podívejte se prosím na anglická verze pro zdrojový text.

Dopad a bezpečnost AI při rozhodování na JIP: Simulační experiment (ICU)

24. února 2023 aktualizováno: Imperial College London

Dopad nasazení umělé inteligence (AI) v prostředí zdravotní péče je nejasný, zejména s ohledem na to, jak to ovlivní lidské rozhodování. Předchozí výzkum ukázal, že výstrahy AI byly často ignorovány (Kamal et al., 2020) nebo mohly vést k neočekávanému chování se zhoršením výsledků pacientů (Wilson et al., 2021). Na druhou stranu by nadměrná důvěra a důvěra v AI mohla mít několik nepříznivých důsledků, včetně schopnosti odhalit škodlivá rozhodnutí AI, což by mohlo vést k poškození pacienta a také k potlačování lidských schopností. Některé z těchto aspektů se týkají zkreslení automatizace.

V této simulační studii mají výzkumníci v úmyslu změřit, zda jsou lékařská rozhodnutí v oblastech s vysokou klinickou nejistotou modifikována použitím nástroje na podporu klinického rozhodování založeného na umělé inteligenci. Jak se bude měřit dávka intravenózních tekutin (IVF) a vazopresorů podávaných lékaři u dospělých pacientů se sepsí (závažná infekce s orgánovým selháním) na JIP) v důsledku zveřejnění dávek navržených hypotetickou AI. Oblast resuscitace sepse je špatně kodifikována, vysoká nejistota vede k vysoké variabilitě v praxi. Tato studie nebude konkrétně zmiňovat AI Clinician (Komorowski et al., 2018). Místo toho výzkumníci popíší hypotetickou AI, pro kterou existují určité důkazy o účinnosti na retrospektivních datech v jiném klinickém prostředí (např. model, který byl retrospektivně validován s použitím dat z jiné země, než jsou zdrojová data použitá pro modelový trénink), ale žádná prospektivní důkaz o účinnosti nebo bezpečnosti. Jako taková je možné, aby tato hypotetická AI poskytovala nebezpečné návrhy. Vyšetřovatelé záměrně zavedou nebezpečné návrhy umělé inteligence (v náhodném pořadí), aby změřili citlivost našich účastníků při jejich odhalování.

Přehled studie

Postavení

Dokončeno

Podmínky

Intervence / Léčba

Detailní popis

Dopad nasazení umělé inteligence (AI) v prostředí zdravotní péče je nejasný, zejména s ohledem na to, jak to ovlivní lidské rozhodování. Předchozí výzkum ukázal, že výstrahy AI byly často ignorovány (Kamal et al., 2020) nebo mohly vést k neočekávanému chování se zhoršením výsledků pacientů (Wilson et al., 2021). Na druhou stranu by nadměrná důvěra a důvěra v AI mohla mít několik nepříznivých důsledků, včetně schopnosti odhalit škodlivá rozhodnutí AI, což by mohlo vést k poškození pacienta a také k potlačování lidských schopností. Některé z těchto aspektů se týkají zkreslení automatizace.

V této simulační studii mají výzkumníci v úmyslu změřit, zda jsou lékařská rozhodnutí v oblastech s vysokou klinickou nejistotou modifikována použitím nástroje na podporu klinického rozhodování založeného na umělé inteligenci. Jak se bude měřit dávka intravenózních tekutin (IVF) a vazopresorů podávaných lékaři u dospělých pacientů se sepsí (závažná infekce s orgánovým selháním) na JIP) v důsledku zveřejnění dávek navržených hypotetickou AI. Oblast resuscitace sepse je špatně kodifikována, vysoká nejistota vede k vysoké variabilitě v praxi. Tato studie nebude konkrétně zmiňovat AI Clinician (Komorowski et al., 2018). Místo toho výzkumníci popíší hypotetickou AI, pro kterou existují určité důkazy o účinnosti na retrospektivních datech v jiném klinickém prostředí (např. model, který byl retrospektivně validován s použitím dat z jiné země, než jsou zdrojová data použitá pro modelový trénink), ale žádná prospektivní důkaz o účinnosti nebo bezpečnosti. Jako taková je možné, aby tato hypotetická AI poskytovala nebezpečné návrhy. Vyšetřovatelé záměrně zavedou nebezpečné návrhy umělé inteligence (v náhodném pořadí), aby změřili citlivost našich účastníků při jejich odhalování.

Vyšetřovatelé budou zkoumat, jaké charakteristiky účastníků jsou spojeny se zvýšenou pravděpodobností ovlivnění AI, a provedou řadu předem specifikovaných podskupinových analýz, např. mladší a starší lékaři JIP a oddělování těch, kteří mají pozitivní nebo negativní vztah k AI.

Typ studie

Pozorovací

Zápis (Aktuální)

38

Kontakty a umístění

Tato část poskytuje kontaktní údaje pro ty, kteří studii provádějí, a informace o tom, kde se tato studie provádí.

Studijní místa

Kritéria účasti

Výzkumníci hledají lidi, kteří odpovídají určitému popisu, kterému se říká kritéria způsobilosti. Některé příklady těchto kritérií jsou celkový zdravotní stav osoby nebo předchozí léčba.

Kritéria způsobilosti

Věk způsobilý ke studiu

18 let a starší (Dospělý, Starší dospělý)

Přijímá zdravé dobrovolníky

Ano

Pohlaví způsobilá ke studiu

Všechno

Metoda odběru vzorků

Vzorek nepravděpodobnosti

Studijní populace

Junior (senior house officer) nebo senior (registrátor/kolega/konzultant) lékař JIP

Popis

Kritéria pro zařazení:

  • Junior (senior house officer) nebo senior (registrátor/kolega/konzultant) lékař JIP

Kritéria vyloučení:

  • Účastníci nesplňující kritéria pro zařazení.

Studijní plán

Tato část poskytuje podrobnosti o studijním plánu, včetně toho, jak je studie navržena a co studie měří.

Jak je studie koncipována?

Detaily designu

Kohorty a intervence

Skupina / kohorta
Intervence / Léčba
Lékaři JIP
n/a - Žádný zásah. Klinici posoudí návrhy hypotetické AI

Co je měření studie?

Primární výstupní opatření

Měření výsledku
Popis opatření
Časové okno
Vliv AI na lékaře JIP
Časové okno: 3 měsíce
Vliv AI na lékaře JIP bude rozdělen do následujících kategorií: celkový a stratifikovaný podle bezpečného/nebezpečného, ​​mladšího/seniorského a pozitivního/negativního postoje k AI.
3 měsíce

Sekundární výstupní opatření

Měření výsledku
Popis opatření
Časové okno
Charakteristika účastníků
Časové okno: 3 měsíce
Jaké jsou charakteristiky účastníků simulace a jak to ovlivňuje rozhodování.
3 měsíce
Důvěřujte AI
Časové okno: 3 měsíce
Jak moc lékaři JIP důvěřují systému AI.
3 měsíce
Důvěra v rozhodnutí účastníků
Časové okno: 3 měsíce
Jak velkou důvěru lékaři vkládají do systému AI
3 měsíce
Podíl času s pozorností na vysvětlení AI
Časové okno: 3 měsíce
Kam je soustředěna pozornost během simulace
3 měsíce

Spolupracovníci a vyšetřovatelé

Zde najdete lidi a organizace zapojené do této studie.

Spolupracovníci

Termíny studijních záznamů

Tato data sledují průběh záznamů studie a předkládání souhrnných výsledků na ClinicalTrials.gov. Záznamy ze studií a hlášené výsledky jsou před zveřejněním na veřejné webové stránce přezkoumány Národní lékařskou knihovnou (NLM), aby se ujistily, že splňují specifické standardy kontroly kvality.

Hlavní termíny studia

Začátek studia (Aktuální)

22. července 2022

Primární dokončení (Aktuální)

31. října 2022

Dokončení studie (Aktuální)

31. října 2022

Termíny zápisu do studia

První předloženo

4. srpna 2022

První předloženo, které splnilo kritéria kontroly kvality

8. srpna 2022

První zveřejněno (Aktuální)

10. srpna 2022

Aktualizace studijních záznamů

Poslední zveřejněná aktualizace (Odhad)

27. února 2023

Odeslaná poslední aktualizace, která splnila kritéria kontroly kvality

24. února 2023

Naposledy ověřeno

1. února 2023

Více informací

Termíny související s touto studií

Klíčová slova

Další identifikační čísla studie

  • 22CX7592

Plán pro data jednotlivých účastníků (IPD)

Plánujete sdílet data jednotlivých účastníků (IPD)?

NE

Popis plánu IPD

Údaje jednotlivých účastníků budou přezkoumány pouze studijním týmem.

Informace o lécích a zařízeních, studijní dokumenty

Studuje lékový produkt regulovaný americkým FDA

Ne

Studuje produkt zařízení regulovaný americkým úřadem FDA

Ne

Tyto informace byly beze změn načteny přímo z webu clinicaltrials.gov. Máte-li jakékoli požadavky na změnu, odstranění nebo aktualizaci podrobností studie, kontaktujte prosím register@clinicaltrials.gov. Jakmile bude změna implementována na clinicaltrials.gov, bude automaticky aktualizována i na našem webu .

Předplatit