Centro de Simulação de Sistema de Apoio à Decisão Clínica Inteligente Artificial Estudo para Aceitação de Tecnologia

O experimento inicial implantará um algoritmo de aprendizado de máquina previamente validado, treinado em conjuntos de dados clínicos existentes em cenários de simulação nos quais um paciente com sangramento gastrointestinal agudo (com risco baixo, moderado e alto de mau resultado) é avaliado.

Antes da simulação, um módulo educacional básico sobre inteligência artificial, aprendizado de máquina e suporte à decisão clínica será fornecido a todos os participantes. Os investigadores estabelecerão segurança psicológica detalhando o que está disponível na sala, a oportunidade de chamar um consultor e a disponibilidade de estudos laboratoriais e radiográficos. Cada cenário clínico será executado por aproximadamente 10 minutos com base em casos reais de pacientes em que os sinais vitais mudam com o tempo e os valores laboratoriais são disponibilizados em pontos específicos da avaliação. O estudo segue um projeto fatorial 3 (risco do cenário: baixo, médio, vs. alto) por 2 (enquadramento AI: ferramenta vs. membro da equipe) por 2 (transparência: baixo vs. alto). Cada participante recebe todos os três cenários em ordem crescente de risco (fator dentro do sujeito), mas é randomizado para um enquadramento AI e uma condição de tratamento de transparência (fatores entre os sujeitos).

Para o tratamento de enquadramento do membro da equipe de IA, durante o briefing de pré-simulação, os participantes receberão uma estrutura de algoritmos de inteligência artificial / aprendizado de máquina como um membro da equipe, e não apenas uma ferramenta, com a introdução do conceito de uma teoria da mente para algoritmos entender como seu raciocínio pode complementar o raciocínio humano. Além disso, a estação de trabalho do computador na qual o algoritmo é executado será colocada ao lado do leito do paciente. Além disso, o AI-CDSS será apresentado em uma interface estilo chatGPT/GPT-4 chatbot com a qual os provedores podem interagir naturalmente ao lado do leito. Na condição de enquadramento da ferramenta, será fornecida uma explicação típica do AI-CDSS como uma ferramenta. Nesse caso, o computador com o algoritmo será colocado em um canto afastado do paciente. Como tal, será apresentado como um banquinho tipo calculadora.

Para o tratamento de transparência, a saída algorítmica terá "baixa" transparência (com apenas a avaliação de risco e recomendação) ou "alta" transparência (com uma explicação das entradas do modelo e a capacidade de consultar as entradas por meio de cliques direcionados ao usuário em um aplicativo da web na condição de enquadramento da ferramenta ou diretamente com a interface derivada do ChatGPT que pode processar consultas direcionadas ao usuário em um chatbot de linguagem natural amigável na estrutura do membro da equipe, resultando na apresentação de entradas que afetam a saída do modelo para fornecer um modelo mental de o algoritmo).