Mitigación del Sesgo de Automatización en el Razonamiento Diagnóstico Médico-LLM mediante Incentivos Conductuales

El sesgo de automatización representa un desafío crítico en la práctica clínica moderna, especialmente a medida que las herramientas de inteligencia artificial (IA) se integran cada vez más en los flujos de trabajo sanitarios. Este fenómeno cognitivo describe la tendencia de los clínicos a favorecer las sugerencias de los sistemas automatizados de toma de decisiones, incluso cuando esas sugerencias son incorrectas. A medida que los Modelos de Lenguaje de Gran Tamaño (LLM) como ChatGPT-5.1 ganan terreno en entornos médicos, su potencial para reducir errores y mejorar la eficiencia debe sopesarse con una preocupación significativa: estos modelos carecen de validación médica rigurosa y pueden amplificar los sesgos cognitivos existentes a través de recomendaciones incorrectas o engañosas.

La aparición del sesgo de automatización en contextos médicos refleja una compleja interacción de factores ambientales y psicológicos. Las limitaciones de tiempo en entornos clínicos de alto volumen generan presión para aceptar recomendaciones generadas por IA sin un escrutinio adecuado. Los incentivos financieros que priorizan la eficiencia sobre la exhaustividad pueden desalentar aún más la evaluación crítica necesaria para un juicio clínico sólido. La fatiga cognitiva durante turnos prolongados disminuye la capacidad de los médicos para un pensamiento analítico sostenido. Estas presiones interactúan con mecanismos psicológicos que incluyen la difusión de responsabilidad, la excesiva confianza en soluciones tecnológicas y la descarga cognitiva, creando colectivamente condiciones en las que la aceptación acrítica de recomendaciones generadas por IA se vuelve más probable.

Este ensayo controlado aleatorizado evalúa la efectividad de una intervención de empuje conductual diseñada para mitigar el sesgo de automatización entre médicos que utilizan recomendaciones diagnósticas generadas por LLM. El objetivo principal es determinar si esta intervención mejora las puntuaciones de rendimiento del razonamiento diagnóstico al evaluar viñetas clínicas que incluyen recomendaciones de LLM deliberadamente defectuosas. Los objetivos secundarios incluyen evaluar si el nivel de experiencia del médico, el género y la experiencia previa con LLM moderan la efectividad de la intervención, y determinar la efectividad diferencial para viñetas con diferentes señales de confianza.

Este estudio emplea un ensayo controlado aleatorizado de simple ciego con dos brazos paralelos. Los participantes serán asignados aleatoriamente 1:1 al brazo de intervención o al de control. Para eliminar la variabilidad por diferencias en habilidades de solicitud, los participantes no interactuarán directamente con una interfaz de LLM en vivo. En su lugar, todos los participantes utilizarán una plataforma web personalizada que muestra viñetas clínicas con recomendaciones de LLM pregeneradas, garantizando contenido generado por LLM idéntico para cada viñeta.

Todos los participantes evaluarán seis viñetas clínicas durante una única sesión supervisada de aproximadamente 75 minutos. Tres viñetas contendrán fallos de razonamiento clínico introducidos deliberadamente en las recomendaciones del LLM, mientras que tres contendrán recomendaciones correctas. Las viñetas se presentarán en orden aleatorio para evitar la detección de patrones.

Los participantes del brazo de control evaluarán viñetas clínicas con recomendaciones diagnósticas de LLM generadas por ChatGPT presentadas en formato de texto estándar y neutro sin información contextual adicional. Los participantes del brazo de intervención evaluarán las mismas viñetas junto con un empuje conductual. Esta intervención consta de dos señales cognitivas sincronizadas: (1) una señal de anclaje que muestra la precisión diagnóstica basal de ChatGPT en conjuntos de datos médicos estándar en la parte superior del panel de interfaz, anclando explícitamente las expectativas a la falibilidad del modelo, y (2) una señal de atención selectiva que muestra la recomendación del LLM junto con una señal de confianza codificada por colores generada mediante una evaluación de conjunto: tres LLM independientes de última generación (Claude Sonnet 4.5, Gemini 2.5 Pro Thinking y GPT-5.1) proporcionan cada uno calificaciones de confianza para la recomendación, y la confianza media determina el color de la señal para mitigar la descalibración de un solo modelo.

Las señales de confianza codificadas por colores se clasifican en tres niveles distintos según la confianza media del conjunto en relación con la precisión diagnóstica basal. Las señales rojas se activan cuando la confianza media cae por debajo de la precisión basal establecida de ChatGPT, marcando explícitamente casos de alta incertidumbre que exigen un escrutinio crítico intensificado. Las señales naranjas indican que, aunque la confianza media supera el promedio basal, permanece por debajo del 100%, señalando la necesidad de vigilancia clínica continua y la evitación de la complacencia. Finalmente, las señales verdes se reservan para instancias de consenso del 100% del conjunto; sin embargo, incluso en este nivel de confianza, las advertencias estándar de seguridad de IA permanecen presentes para protegerse contra la dependencia excesiva de la salida del sistema.

Se presentará a los participantes seis viñetas clínicas diseñadas específicamente para medir el sesgo de automatización, obtenidas y modificadas de casos reales que representan un rango de dificultad diagnóstica y especialidades médicas comunes. Cada viñeta sigue un formato estandarizado que incluye motivo de consulta principal, historia de la enfermedad actual, antecedentes médicos/sociales/familiares relevantes, hallazgos del examen físico y resultados de laboratorio iniciales.

El resultado principal es la Puntuación de Rendimiento del Razonamiento Diagnóstico, una puntuación porcentual compuesta basada en una rúbrica estructurada que evalúa: calidad de diagnósticos diferenciales, hallazgos de apoyo, hallazgos opuestos, precisión del diagnóstico final y adecuación de los siguientes pasos. Los resultados secundarios incluyen la precisión del diagnóstico de primera elección (incorrecto, parcialmente correcto o correcto). Todas las respuestas serán evaluadas por revisores cegados utilizando la rúbrica de evaluación.