Влияние и безопасность ИИ при принятии решений в отделении интенсивной терапии: эксперимент по моделированию (ICU)

Влияние развертывания искусственного интеллекта (ИИ) в медицинских учреждениях неясно, в частности, в отношении того, как он повлияет на людей, принимающих решения. Предыдущие исследования показали, что предупреждения ИИ часто игнорировались (Kamal et al., 2020) или могли привести к неожиданному поведению с ухудшением состояния пациентов (Wilson et al., 2021). С другой стороны, чрезмерная уверенность и доверие к ИИ могут иметь несколько неблагоприятных последствий, включая способность обнаруживать вредные решения ИИ, приводящие к причинению вреда пациентам, а также к снижению квалификации человека. Некоторые из этих аспектов связаны с предвзятостью автоматизации.

В этом симуляционном исследовании исследователи намереваются измерить, изменяются ли медицинские решения в областях с высокой клинической неопределенностью с помощью инструмента поддержки принятия клинических решений на основе ИИ. Как будет измеряться доза внутривенных жидкостей (ЭКО) и вазопрессоров, вводимых врачами у взрослых пациентов с сепсисом (тяжелой инфекцией с органной недостаточностью) в отделении интенсивной терапии, в результате раскрытия доз, предложенных гипотетическим ИИ. Область реанимации при сепсисе плохо кодифицирована, с высокой степенью неопределенности, приводящей к большой вариабельности на практике. В этом исследовании не будет конкретно упоминаться клиницист ИИ (Komorowski et al., 2018). Вместо этого исследователи будут описывать гипотетический ИИ, для которого есть некоторые доказательства эффективности ретроспективных данных в других клинических условиях (например, модель, которая была ретроспективно подтверждена с использованием данных из другой страны, чем исходные данные, используемые для обучения модели), но нет проспективных данных. доказательства эффективности или безопасности. Таким образом, этот гипотетический ИИ может давать небезопасные предложения. Исследователи будут намеренно вводить небезопасные предположения ИИ (в случайном порядке), чтобы измерить чувствительность наших участников при их обнаружении.

Исследователи изучат, какие характеристики участников связаны с повышенной вероятностью влияния ИИ, и проведут ряд предварительно определенных анализов подгрупп, например. младшие и старшие врачи отделения интенсивной терапии, а также разделение тех, кто положительно или отрицательно относится к ИИ.