Cette page a été traduite automatiquement et l'exactitude de la traduction n'est pas garantie. Veuillez vous référer au version anglaise pour un texte source.

Impact et sécurité de l'IA dans la prise de décision en USI : une expérience de simulation (ICU)

24 février 2023 mis à jour par: Imperial College London

L'impact du déploiement de l'intelligence artificielle (IA) dans les établissements de santé n'est pas clair, en particulier en ce qui concerne son influence sur les décideurs humains. Des recherches antérieures ont démontré que les alertes d'IA étaient fréquemment ignorées (Kamal et al., 2020) ou pouvaient entraîner un comportement inattendu avec une aggravation des résultats pour les patients (Wilson et al., 2021). D'autre part, une confiance excessive et une confiance placée dans l'IA pourraient avoir plusieurs conséquences néfastes, notamment la capacité à détecter des décisions d'IA nuisibles, entraînant des dommages pour les patients ainsi qu'une déqualification humaine. Certains de ces aspects sont liés au biais d'automatisation.

Dans cette étude de simulation, les chercheurs ont l'intention de mesurer si les décisions médicales dans les zones à forte incertitude clinique sont modifiées par l'utilisation d'un outil d'aide à la décision clinique basé sur l'IA. Comment la dose de fluides intraveineux (FIV) et de vasopresseurs administrés par les médecins chez les patients adultes atteints de septicémie (infection grave avec défaillance d'organe) dans l'USI), change à la suite de la divulgation des doses suggérées par une IA hypothétique sera mesurée. Le domaine de la réanimation du sepsis est mal codifié, avec une forte incertitude conduisant à une grande variabilité dans la pratique. Cette étude ne mentionnera pas spécifiquement le clinicien en IA (Komorowski et al., 2018). Au lieu de cela, les enquêteurs décriront une IA hypothétique pour laquelle il existe des preuves d'efficacité sur des données rétrospectives dans un autre contexte clinique (par exemple, un modèle qui a été validé rétrospectivement à l'aide de données provenant d'un pays différent de celui des données sources utilisées pour la formation du modèle) mais aucune prospective preuves d'efficacité ou d'innocuité. En tant que tel, il est possible que cette IA hypothétique fournisse des suggestions dangereuses. Les enquêteurs introduiront intentionnellement des suggestions d'IA dangereuses (dans un ordre aléatoire), pour mesurer la sensibilité de nos participants à les détecter.

Aperçu de l'étude

Statut

Complété

Les conditions

Intervention / Traitement

Description détaillée

L'impact du déploiement de l'intelligence artificielle (IA) dans les établissements de santé n'est pas clair, en particulier en ce qui concerne son influence sur les décideurs humains. Des recherches antérieures ont démontré que les alertes d'IA étaient fréquemment ignorées (Kamal et al., 2020) ou pouvaient entraîner un comportement inattendu avec une aggravation des résultats pour les patients (Wilson et al., 2021). D'autre part, une confiance excessive et une confiance placée dans l'IA pourraient avoir plusieurs conséquences néfastes, notamment la capacité à détecter des décisions d'IA nuisibles, entraînant des dommages pour les patients ainsi qu'une déqualification humaine. Certains de ces aspects sont liés au biais d'automatisation.

Dans cette étude de simulation, les chercheurs ont l'intention de mesurer si les décisions médicales dans les zones à forte incertitude clinique sont modifiées par l'utilisation d'un outil d'aide à la décision clinique basé sur l'IA. Comment la dose de fluides intraveineux (FIV) et de vasopresseurs administrés par les médecins chez les patients adultes atteints de septicémie (infection grave avec défaillance d'organe) dans l'USI), change à la suite de la divulgation des doses suggérées par une IA hypothétique sera mesurée. Le domaine de la réanimation du sepsis est mal codifié, avec une forte incertitude conduisant à une grande variabilité dans la pratique. Cette étude ne mentionnera pas spécifiquement le clinicien en IA (Komorowski et al., 2018). Au lieu de cela, les enquêteurs décriront une IA hypothétique pour laquelle il existe des preuves d'efficacité sur des données rétrospectives dans un autre contexte clinique (par exemple, un modèle qui a été validé rétrospectivement à l'aide de données provenant d'un pays différent de celui des données sources utilisées pour la formation du modèle) mais aucune prospective preuves d'efficacité ou d'innocuité. En tant que tel, il est possible que cette IA hypothétique fournisse des suggestions dangereuses. Les enquêteurs introduiront intentionnellement des suggestions d'IA dangereuses (dans un ordre aléatoire), pour mesurer la sensibilité de nos participants à les détecter.

Les enquêteurs examineront quelles caractéristiques des participants sont liées à une probabilité accrue d'être influencé par l'IA, et effectueront un certain nombre d'analyses de sous-groupes prédéfinis, par ex. médecins juniors et seniors en soins intensifs, et en séparant ceux qui ont une attitude positive ou négative envers l'IA.

Type d'étude

Observationnel

Inscription (Réel)

38

Contacts et emplacements

Cette section fournit les coordonnées de ceux qui mènent l'étude et des informations sur le lieu où cette étude est menée.

Lieux d'étude

      • London, Royaume-Uni, W2 1PG
        • Imperial College Hospitals NHS Trust

Critères de participation

Les chercheurs recherchent des personnes qui correspondent à une certaine description, appelée critères d'éligibilité. Certains exemples de ces critères sont l'état de santé général d'une personne ou des traitements antérieurs.

Critère d'éligibilité

Âges éligibles pour étudier

18 ans et plus (Adulte, Adulte plus âgé)

Accepte les volontaires sains

Oui

Sexes éligibles pour l'étude

Tout

Méthode d'échantillonnage

Échantillon non probabiliste

Population étudiée

Médecin de soins intensifs junior (officier supérieur) ou senior (registraire/fellow/consultant)

La description

Critère d'intégration:

  • Médecin de soins intensifs junior (officier supérieur) ou senior (registraire/fellow/consultant)

Critère d'exclusion:

  • Participants ne répondant pas aux critères d'inclusion.

Plan d'étude

Cette section fournit des détails sur le plan d'étude, y compris la façon dont l'étude est conçue et ce que l'étude mesure.

Comment l'étude est-elle conçue ?

Détails de conception

Cohortes et interventions

Groupe / Cohorte
Intervention / Traitement
Cliniciens en soins intensifs
n/a - Il n'y a pas d'intervention. Les cliniciens examineront les suggestions d'une IA hypothétique

Que mesure l'étude ?

Principaux critères de jugement

Mesure des résultats
Description de la mesure
Délai
Influence de l'IA sur les cliniciens en soins intensifs
Délai: 3 mois
L'influence de l'IA sur les cliniciens en soins intensifs sera divisée dans les catégories suivantes : globale et stratifiée par attitude sûre/dangereuse, junior/senior et positive/négative envers l'IA.
3 mois

Mesures de résultats secondaires

Mesure des résultats
Description de la mesure
Délai
Caractéristiques des participants
Délai: 3 mois
Quelles sont les caractéristiques de ceux qui participent à la simulation et comment cela affecte-t-il la prise de décision.
3 mois
Faites confiance à l'IA
Délai: 3 mois
Dans quelle mesure les cliniciens des soins intensifs font-ils confiance au système d'IA.
3 mois
Confiance dans les décisions des participants
Délai: 3 mois
Quelle confiance les cliniciens placent-ils dans le système d'IA
3 mois
Proportion de temps consacré à l'explication de l'IA
Délai: 3 mois
Où est concentrée l'attention pendant la simulation
3 mois

Collaborateurs et enquêteurs

C'est ici que vous trouverez les personnes et les organisations impliquées dans cette étude.

Collaborateurs

Dates d'enregistrement des études

Ces dates suivent la progression des dossiers d'étude et des soumissions de résultats sommaires à ClinicalTrials.gov. Les dossiers d'étude et les résultats rapportés sont examinés par la Bibliothèque nationale de médecine (NLM) pour s'assurer qu'ils répondent à des normes de contrôle de qualité spécifiques avant d'être publiés sur le site Web public.

Dates principales de l'étude

Début de l'étude (Réel)

22 juillet 2022

Achèvement primaire (Réel)

31 octobre 2022

Achèvement de l'étude (Réel)

31 octobre 2022

Dates d'inscription aux études

Première soumission

4 août 2022

Première soumission répondant aux critères de contrôle qualité

8 août 2022

Première publication (Réel)

10 août 2022

Mises à jour des dossiers d'étude

Dernière mise à jour publiée (Estimation)

27 février 2023

Dernière mise à jour soumise répondant aux critères de contrôle qualité

24 février 2023

Dernière vérification

1 février 2023

Plus d'information

Termes liés à cette étude

Autres numéros d'identification d'étude

  • 22CX7592

Plan pour les données individuelles des participants (IPD)

Prévoyez-vous de partager les données individuelles des participants (DPI) ?

NON

Description du régime IPD

Les données individuelles des participants ne seront examinées que par l'équipe de l'étude.

Informations sur les médicaments et les dispositifs, documents d'étude

Étudie un produit pharmaceutique réglementé par la FDA américaine

Non

Étudie un produit d'appareil réglementé par la FDA américaine

Non

Ces informations ont été extraites directement du site Web clinicaltrials.gov sans aucune modification. Si vous avez des demandes de modification, de suppression ou de mise à jour des détails de votre étude, veuillez contacter register@clinicaltrials.gov. Dès qu'un changement est mis en œuvre sur clinicaltrials.gov, il sera également mis à jour automatiquement sur notre site Web .

S'abonner