Ta strona została przetłumaczona automatycznie i dokładność tłumaczenia nie jest gwarantowana. Proszę odnieść się do angielska wersja za tekst źródłowy.

Wpływ i bezpieczeństwo sztucznej inteligencji na podejmowanie decyzji na OIT: eksperyment symulacyjny (ICU)

24 lutego 2023 zaktualizowane przez: Imperial College London

Wpływ wdrożenia sztucznej inteligencji (AI) w placówkach opieki zdrowotnej jest niejasny, w szczególności w odniesieniu do tego, w jaki sposób wpłynie ona na decydentów. Poprzednie badania wykazały, że alerty AI były często ignorowane (Kamal i in., 2020) lub mogły prowadzić do nieoczekiwanego zachowania i pogorszenia wyników pacjentów (Wilson i in., 2021). Z drugiej strony nadmierna pewność i zaufanie pokładane w sztucznej inteligencji może mieć szereg negatywnych konsekwencji, w tym zdolność do wykrywania szkodliwych decyzji sztucznej inteligencji, prowadzących do szkód dla pacjentów, a także do utraty kwalifikacji przez ludzi. Niektóre z tych aspektów odnoszą się do błędu automatyzacji.

W tym badaniu symulacyjnym badacze zamierzają zmierzyć, czy decyzje medyczne w obszarach o dużej niepewności klinicznej są modyfikowane za pomocą narzędzia wspomagania decyzji klinicznych opartego na sztucznej inteligencji. Jak będzie mierzona dawka płynów dożylnych (IVF) i wazopresorów podawanych przez lekarzy dorosłym pacjentom z sepsą (ciężkim zakażeniem z niewydolnością narządową) na OIT), zmienia się w wyniku ujawnienia dawek sugerowanych przez hipotetyczną AI. Obszar resuscytacji sepsy jest słabo skodyfikowany, a duża niepewność prowadzi do dużej zmienności w praktyce. W tym badaniu nie będzie konkretnie wymieniona Klinicysta AI (Komorowski i in., 2018). Zamiast tego badacze opisują hipotetyczną sztuczną inteligencję, dla której istnieją pewne dowody skuteczności na podstawie danych retrospektywnych w innym środowisku klinicznym (np. dowody skuteczności lub bezpieczeństwa. W związku z tym ta hipotetyczna sztuczna inteligencja może dostarczać niebezpieczne sugestie. Badacze celowo wprowadzą niebezpieczne sugestie AI (w losowej kolejności), aby zmierzyć wrażliwość naszych uczestników na ich wykrywanie.

Przegląd badań

Status

Zakończony

Warunki

Szczegółowy opis

Wpływ wdrożenia sztucznej inteligencji (AI) w placówkach opieki zdrowotnej jest niejasny, w szczególności w odniesieniu do tego, w jaki sposób wpłynie ona na decydentów. Poprzednie badania wykazały, że alerty AI były często ignorowane (Kamal i in., 2020) lub mogły prowadzić do nieoczekiwanego zachowania i pogorszenia wyników pacjentów (Wilson i in., 2021). Z drugiej strony nadmierna pewność i zaufanie pokładane w sztucznej inteligencji może mieć szereg negatywnych konsekwencji, w tym zdolność do wykrywania szkodliwych decyzji sztucznej inteligencji, prowadzących do szkód dla pacjentów, a także do utraty kwalifikacji przez ludzi. Niektóre z tych aspektów odnoszą się do błędu automatyzacji.

W tym badaniu symulacyjnym badacze zamierzają zmierzyć, czy decyzje medyczne w obszarach o dużej niepewności klinicznej są modyfikowane za pomocą narzędzia wspomagania decyzji klinicznych opartego na sztucznej inteligencji. Jak będzie mierzona dawka płynów dożylnych (IVF) i wazopresorów podawanych przez lekarzy dorosłym pacjentom z sepsą (ciężkim zakażeniem z niewydolnością narządową) na OIT), zmienia się w wyniku ujawnienia dawek sugerowanych przez hipotetyczną AI. Obszar resuscytacji sepsy jest słabo skodyfikowany, a duża niepewność prowadzi do dużej zmienności w praktyce. W tym badaniu nie będzie konkretnie wymieniona Klinicysta AI (Komorowski i in., 2018). Zamiast tego badacze opisują hipotetyczną sztuczną inteligencję, dla której istnieją pewne dowody skuteczności na podstawie danych retrospektywnych w innym środowisku klinicznym (np. dowody skuteczności lub bezpieczeństwa. W związku z tym ta hipotetyczna sztuczna inteligencja może dostarczać niebezpieczne sugestie. Badacze celowo wprowadzą niebezpieczne sugestie AI (w losowej kolejności), aby zmierzyć wrażliwość naszych uczestników na ich wykrywanie.

Badacze zbadają, jakie cechy uczestników są powiązane ze zwiększonym prawdopodobieństwem bycia pod wpływem sztucznej inteligencji i przeprowadzą szereg wcześniej określonych analiz podgrup, m.in. młodszych i starszych lekarzy OIOM oraz oddzielenie tych z pozytywnym lub negatywnym nastawieniem do sztucznej inteligencji.

Typ studiów

Obserwacyjny

Zapisy (Rzeczywisty)

38

Kontakty i lokalizacje

Ta sekcja zawiera dane kontaktowe osób prowadzących badanie oraz informacje o tym, gdzie badanie jest przeprowadzane.

Lokalizacje studiów

Kryteria uczestnictwa

Badacze szukają osób, które pasują do określonego opisu, zwanego kryteriami kwalifikacyjnymi. Niektóre przykłady tych kryteriów to ogólny stan zdrowia danej osoby lub wcześniejsze leczenie.

Kryteria kwalifikacji

Wiek uprawniający do nauki

18 lat i starsze (Dorosły, Starszy dorosły)

Akceptuje zdrowych ochotników

Tak

Płeć kwalifikująca się do nauki

Wszystko

Metoda próbkowania

Próbka bez prawdopodobieństwa

Badana populacja

Młodszy (starszy oficer domu) lub starszy (rejestrator / kolega / konsultant) lekarz OIOM

Opis

Kryteria przyjęcia:

  • Młodszy (starszy oficer domu) lub starszy (rejestrator / kolega / konsultant) lekarz OIOM

Kryteria wyłączenia:

  • Uczestnicy niespełniający kryteriów włączenia.

Plan studiów

Ta sekcja zawiera szczegółowe informacje na temat planu badania, w tym sposób zaprojektowania badania i jego pomiary.

Jak projektuje się badanie?

Szczegóły projektu

Kohorty i interwencje

Grupa / Kohorta
Interwencja / Leczenie
Klinicyści OIT
n/a - Nie ma interwencji. Klinicyści przejrzą sugestie hipotetycznej sztucznej inteligencji

Co mierzy badanie?

Podstawowe miary wyniku

Miara wyniku
Opis środka
Ramy czasowe
Wpływ AI na klinicystów OIOM
Ramy czasowe: 3 miesiące
Wpływ sztucznej inteligencji na klinicystów OIOM zostanie podzielony na następujące kategorie: ogólny i podzielony według bezpiecznego/niebezpiecznego, młodszego/starszego i pozytywnego/negatywnego stosunku do sztucznej inteligencji.
3 miesiące

Miary wyników drugorzędnych

Miara wyniku
Opis środka
Ramy czasowe
Charakterystyka uczestników
Ramy czasowe: 3 miesiące
Jakie są cechy osób biorących udział w symulacji i jak wpływa to na podejmowanie decyzji.
3 miesiące
Zaufaj AI
Ramy czasowe: 3 miesiące
Jak bardzo lekarze OIOM ufają systemowi sztucznej inteligencji.
3 miesiące
Zaufanie do decyzji uczestników
Ramy czasowe: 3 miesiące
Jak duże zaufanie pokładają klinicyści w systemie sztucznej inteligencji
3 miesiące
Proporcja czasu z uwagą na wyjaśnienie AI
Ramy czasowe: 3 miesiące
Na czym skupia się uwaga podczas symulacji
3 miesiące

Współpracownicy i badacze

Tutaj znajdziesz osoby i organizacje zaangażowane w to badanie.

Współpracownicy

Daty zapisu na studia

Daty te śledzą postęp w przesyłaniu rekordów badań i podsumowań wyników do ClinicalTrials.gov. Zapisy badań i zgłoszone wyniki są przeglądane przez National Library of Medicine (NLM), aby upewnić się, że spełniają określone standardy kontroli jakości, zanim zostaną opublikowane na publicznej stronie internetowej.

Główne daty studiów

Rozpoczęcie studiów (Rzeczywisty)

22 lipca 2022

Zakończenie podstawowe (Rzeczywisty)

31 października 2022

Ukończenie studiów (Rzeczywisty)

31 października 2022

Daty rejestracji na studia

Pierwszy przesłany

4 sierpnia 2022

Pierwszy przesłany, który spełnia kryteria kontroli jakości

8 sierpnia 2022

Pierwszy wysłany (Rzeczywisty)

10 sierpnia 2022

Aktualizacje rekordów badań

Ostatnia wysłana aktualizacja (Oszacować)

27 lutego 2023

Ostatnia przesłana aktualizacja, która spełniała kryteria kontroli jakości

24 lutego 2023

Ostatnia weryfikacja

1 lutego 2023

Więcej informacji

Terminy związane z tym badaniem

Słowa kluczowe

Inne numery identyfikacyjne badania

  • 22CX7592

Plan dla danych uczestnika indywidualnego (IPD)

Planujesz udostępniać dane poszczególnych uczestników (IPD)?

NIE

Opis planu IPD

Dane poszczególnych uczestników będą weryfikowane wyłącznie przez zespół badawczy.

Informacje o lekach i urządzeniach, dokumenty badawcze

Bada produkt leczniczy regulowany przez amerykańską FDA

Nie

Bada produkt urządzenia regulowany przez amerykańską FDA

Nie

Te informacje zostały pobrane bezpośrednio ze strony internetowej clinicaltrials.gov bez żadnych zmian. Jeśli chcesz zmienić, usunąć lub zaktualizować dane swojego badania, skontaktuj się z register@clinicaltrials.gov. Gdy tylko zmiana zostanie wprowadzona na stronie clinicaltrials.gov, zostanie ona automatycznie zaktualizowana również na naszej stronie internetowej .

Subskrybuj