Diagnostyczna i triażowa zdolność współpracy osób bez wykształcenia medycznego z dużymi modelami językowymi w Chinach
Zdolność diagnostyczna i triażowa współpracy laików z dużymi modelami językowymi: krajowy przedtestowo-pottestowy randomizowany kontrolowany eksperyment w Chinach
Celem tego randomizowanego badania kontrolowanego jest ocena roli dużych modeli językowych w poprawie zdolności osób bez wykształcenia medycznego do samodzielnego diagnozowania i triażu powszechnych chorób. Główne pytania, na które ma odpowiedzieć to badanie, to:
- Czy korzystanie z LLM pomaga uczestnikom w postawieniu bardziej trafnych samodzielnych diagnoz i podjęciu lepszych decyzji dotyczących opieki w przypadku powszechnych chorób, w porównaniu z ich pierwszą domysłem bez jakiejkolwiek pomocy?
- O ile lepsze są wyniki, gdy ludzie współpracują z LLM, w porównaniu z korzystaniem ze standardowej wyszukiwarki, używaniem samego LLM lub decyzjami lekarzy? Badacze porównają uczestników, którzy zostali losowo przydzieleni do grupy LLM (korzystającej z DeepSeek) lub grupy wyszukiwarki, aby sprawdzić, czy podejście wspomagane przez LLM prowadzi do lepszych ocen klinicznych.
Uczestnicy będą:
- Czytać jedną z 48 krótkich, realistycznych wizytówek zdrowotnych;
- Wysuwać początkowy domysł na temat możliwej przyczyny problemu, wymieniając do trzech możliwych przyczyn, uszeregowanych od najbardziej do najmniej prawdopodobnej, i wybierać poziom opieki: natychmiastowa pomoc medyczna, wizyta u lekarza w ciągu jednego dnia, wizyta u lekarza w ciągu tygodnia lub samodzielne leczenie w domu bez pomocy medycznej.
- Korzystać z przypisanego narzędzia (DeepSeek lub standardowej wyszukiwarki) w celu wyszukania informacji i zaktualizowania swojego domysłu oraz decyzji dotyczącej opieki;
- Przesyłać ostateczną diagnozę i wybór opieki po użyciu narzędzia. Dodatkowo zespół badawczy ocenił wyniki czterech innych modeli AI (GPT-4o, GPT-o1, DeepSeek-v3 i DeepSeek-r1) oraz 33 doświadczonych lekarzy rodzinnych na tych samych wizytówkach.
Przegląd badań
Status
Status
Warunki
Warunki
Interwencja / Leczenie
Interwencja / Leczenie
Typ studiów
Typ studiów
Zapisy (Rzeczywisty)
Zapisy
Faza
Faza
- Nie dotyczy
Kontakty i lokalizacje
Lokalizacje studiów
-
-
Hubei
-
Wuhan, Hubei, Chiny
- Tongji Medical College of Huazhong University of Science & Technology School of Medicine and Health Management
-
-
Kryteria uczestnictwa
Kryteria kwalifikacji
Kryteria kwalifikacji
Wiek uprawniający do nauki
- Dorosły
- Starszy dorosły
Akceptuje zdrowych ochotników
Opis
Kryteria włączenia:
- Wiek 18 lat lub więcej
- Aktualny mieszkaniec kontynentalnych Chin
- Historia wysokiej jakości uczestnictwa w ankietach online na platformie Credamo (historyczna akceptacja ankiet ≥ 80% i osobisty wynik kredytowy ≥ 70)
Kryteria wykluczenia:
- Niekompletne odpowiedzi w ankiecie
- Niepowodzenie na wbudowanych pozycjach sprawdzających jakość
- Nieprawdopodobnie krótki czas ukończenia (<180 sekund dla grupy wyszukiwarki; <360 sekund dla grupy LLM)
- Dostarczenie odpowiedzi niediagnostycznych lub nieistotnych (np. "nieznane", "nie wiem")
- Spójny wzór identycznych odpowiedzi we wszystkich pozycjach
Plan studiów
Jak projektuje się badanie?
Szczegóły projektu
- Główny cel: Badania usług zdrowotnych
- Przydział: Randomizowane
- Model interwencyjny: Przydział równoległy
- Maskowanie: Pojedynczy
Liczba ramion
Broń i interwencje
Grupa uczestników / ArmGrupa uczestników / Arm |
Interwencja / LeczenieInterwencja / Leczenie |
|---|---|
|
Eksperymentalny: grupa zintegrowana dla laików-LLM
Po początkowym udzieleniu odpowiedzi na pytanie dotyczące diagnozy klinicznej i triażu bez pomocy narzędzi, uczestnicy zostali poproszeni o użycie dużego modelu językowego (Deepseek v3 lub r1) do wyszukania informacji zdrowotnych, a następnie ponowne udzielenie odpowiedzi na to samo pytanie
|
Uczestnicy w tej grupie wykorzystali duży model językowy (DeepSeek) do wyszukiwania informacji medycznych związanych z przypadkiem klinicznym po podjęciu wstępnych decyzji diagnostycznych i dotyczących triage.
Zostali poinstruowani, aby swobodnie współdziałać z modelem w celu zebrania informacji, a następnie zaktualizować swoje diagnozy i zalecenia dotyczące triage.
Interwencja symuluje rzeczywiste wykorzystanie narzędzi sztucznej inteligencji do podejmowania decyzji dotyczących zdrowia osobistego.
|
|
Aktywny komparator: grupa dla laików korzystająca z wyszukiwarki
Po początkowym udzieleniu odpowiedzi na pytanie dotyczące diagnozy klinicznej i triage bez użycia narzędzi, uczestnicy byli zobowiązani do użycia wyszukiwarki w celu uzyskania informacji zdrowotnych, a następnie ponownego udzielenia odpowiedzi na to samo pytanie
|
Uczestnicy w tej grupie korzystali z głównych wyszukiwarek internetowych (np. Baidu, Google, Bing), aby wyszukać informacje o studium przypadku klinicznego po podjęciu wstępnych decyzji diagnostycznych i triage. Mieli oni swobodę wyszukiwania, ale nie mogli korzystać z żadnej nazwanej platformy czatbota AI ani dużego modelu językowego. Ta grupa reprezentuje typowe zachowania związane z samodzielnym poszukiwaniem informacji zdrowotnych online.
|
Co mierzy badanie?
Podstawowe miary wyniku
Podstawowe miary wyniku
Miara wyniku |
Opis środka |
Ramy czasowe |
|---|---|---|
|
Top-3 Dokładność Diagnostyczna
Ramy czasowe: Natychmiast po interwencji (w ramach tej samej sesji badania)
|
Podstawowym wynikiem diagnostycznym określono jako odsetek uczestników, którzy uwzględnili prawidłową diagnozę wśród swoich trzech głównych diagnoz różnicowych po zastosowaniu przypisanego narzędzia (LLM lub wyszukiwarki).
Dokładność oceniano dla każdego z 48 przypadków klinicznych i agregowano dla wszystkich uczestników w każdej grupie.
|
Natychmiast po interwencji (w ramach tej samej sesji badania)
|
|
Dokładność triażu (dokładne dopasowanie 4 klas)
Ramy czasowe: Natychmiast po interwencji (w trakcie tej samej sesji badania)
|
Dokładność triażu została zdefiniowana jako odsetek uczestników, którzy wybrali prawidłowy poziom triażu (nagła pomoc, w ciągu jednego dnia, w ciągu jednego tygodnia lub samodzielna opieka), który odpowiadał standardowi odniesienia.
W każdej kategorii triażu było 12 scenariuszy.
|
Natychmiast po interwencji (w trakcie tej samej sesji badania)
|
Miary wyników drugorzędnych
Miary wyników drugorzędnych
Miara wyniku |
Opis środka |
Ramy czasowe |
|---|---|---|
|
Dokładność diagnostyczna Top-1
Ramy czasowe: Natychmiast po interwencji (w ramach tej samej sesji badania)
|
Odsetek uczestników, którzy wybrali prawidłową diagnozę jako swoją główną (pierwszą) diagnozę po użyciu przypisanego narzędzia.
Mierzy to precyzję ostatecznej oceny diagnostycznej osób bez wykształcenia medycznego.
|
Natychmiast po interwencji (w ramach tej samej sesji badania)
|
|
Dokładność triażu (dopasowanie binarne 2-klasowe)
Ramy czasowe: Bezpośrednio po interwencji (w trakcie tej samej sesji badania)
|
Bezpośrednio po interwencji (w trakcie tej samej sesji badania)
|
Współpracownicy i badacze
Sponsor
Sponsor
Śledczy
Śledczy
- Główny śledczy: Chenxi Liu, Huazhong University of Science and Technology
Daty zapisu na studia
Główne daty studiów
Rozpoczęcie studiów (Rzeczywisty)
Rozpoczęcie studiów
Zakończenie podstawowe (Rzeczywisty)
Zakończenie podstawowe
Ukończenie studiów (Rzeczywisty)
Ukończenie studiów
Daty rejestracji na studia
Pierwszy przesłany
Pierwszy przesłany
Pierwszy przesłany, który spełnia kryteria kontroli jakości
Pierwszy przesłany, który spełnia kryteria kontroli jakości
Pierwszy wysłany (Rzeczywisty)
Pierwszy wysłany
Aktualizacje rekordów badań
Ostatnia wysłana aktualizacja (Rzeczywisty)
Ostatnia wysłana aktualizacja
Ostatnia przesłana aktualizacja, która spełniała kryteria kontroli jakości
Ostatnia przesłana aktualizacja, która spełniała kryteria kontroli jakości
Ostatnia weryfikacja
Ostatnia weryfikacja
Więcej informacji
Terminy związane z tym badaniem
Inne numery identyfikacyjne badania
Inne numery identyfikacyjne badania
- JCYJ20240813115806009
Plan dla danych uczestnika indywidualnego (IPD)
Planujesz udostępniać dane poszczególnych uczestników (IPD)?
Opis planu IPD
Informacje o lekach i urządzeniach, dokumenty badawcze
Bada produkt leczniczy regulowany przez amerykańską FDA
Bada produkt urządzenia regulowany przez amerykańską FDA
Te informacje zostały pobrane bezpośrednio ze strony internetowej clinicaltrials.gov bez żadnych zmian. Jeśli chcesz zmienić, usunąć lub zaktualizować dane swojego badania, skontaktuj się z register@clinicaltrials.gov. Gdy tylko zmiana zostanie wprowadzona na stronie clinicaltrials.gov, zostanie ona automatycznie zaktualizowana również na naszej stronie internetowej .