Estudio del Centro de Simulación del Sistema de Apoyo a la Decisión Clínica de Inteligencia Artificial para la Aceptación de Tecnología

El experimento inicial implementará un algoritmo de aprendizaje automático previamente validado y entrenado en conjuntos de datos clínicos existentes dentro de escenarios de simulación en los que se evalúa a un paciente con hemorragia gastrointestinal aguda (con riesgo bajo, moderado y alto de mal resultado).

Antes de la simulación, se proporcionará a todos los participantes un módulo educativo básico sobre inteligencia artificial, aprendizaje automático y apoyo a la toma de decisiones clínicas. Los investigadores establecerán la seguridad psicológica detallando lo que está disponible en la habitación, la oportunidad de llamar a un consultor y la disponibilidad de estudios de laboratorio y radiográficos. Cada escenario clínico se ejecutará durante aproximadamente 10 minutos en base a casos de pacientes reales donde los signos vitales cambian con el tiempo y los valores de laboratorio están disponibles en puntos específicos de la evaluación. El estudio sigue un diseño factorial de 3 (riesgo de escenario: bajo, medio, frente a alto) por 2 (encuadre de IA: herramienta frente a miembro del equipo) por 2 (transparencia: bajo frente a alto). Cada participante recibe los tres escenarios en orden creciente de riesgo (factor dentro del sujeto), pero se asigna aleatoriamente a un marco de IA y una condición de tratamiento de transparencia (factores entre sujetos).

Para el tratamiento de encuadre de los miembros del equipo de IA, durante la sesión informativa previa a la simulación, los participantes recibirán un marco de inteligencia artificial/algoritmos de aprendizaje automático como miembros del equipo, y no solo como una herramienta, con la introducción del concepto de teoría de la mente. para que los algoritmos entiendan cómo su razonamiento puede complementar el razonamiento humano. Además, la estación de trabajo de la computadora en la que se ejecuta el algoritmo se colocará junto a la cama del paciente. Además, el AI-CDSS se presentará en una interfaz estilo chatbot ChatGPT/GPT-4 con la que los proveedores pueden interactuar de forma natural al lado de la cama. En la condición de marco de herramienta, se les proporcionará una explicación típica de AI-CDSS como herramienta. En este caso, la computadora con el algoritmo se colocará en una esquina alejada del paciente. Como tal, se presentará como un taburete tipo calculadora.

Para el tratamiento de transparencia, la salida algorítmica tendrá una transparencia "baja" (con solo la evaluación de riesgos y la recomendación) o una transparencia "alta" (con una explicación de las entradas del modelo y la capacidad de consultar las entradas mediante clics dirigidos por el usuario en un aplicación web en la condición de marco de herramienta o directamente con la interfaz derivada de ChatGPT que puede procesar consultas dirigidas por el usuario en un chatbot de lenguaje natural fácil de usar en el marco de trabajo de los miembros del equipo, lo que da como resultado la presentación de entradas que afectan la salida del modelo para proporcionar un modelo mental de el algoritmo).