“Оркестр” AI‑сервисов в клинике: почему внедрить ИИ ещё не значит получить пользу

[ToxaBes]

О БФМ в медицине, где все в персональных и медицинских данных пациента, речь не идет. С медданными у нас все еще строже чем с ПДн, никаких зарубежных облачных моделей. А наши модели считать БФМ можно условно.

Остаются модели, которые можно разворачивать в закрытом контуре, а их нужно дообучать под задачу, иначе красивые метрики останутся только на бумаге. Сделать это могут не только лишь все (с)

Мне, к примеру, предлагали: «Мы внедрим систему голосового заполнения медицинской документации, и это позволит сократить время приёма врача». Хорошо, но сократить время приёма для чего? На первый взгляд ответ очевиден: если врач сможет принимать больше пациентов за то же рабочее время, клиника потенциально заработает больше.

Цель этой автоматизации не столько сокращение времени приема как такового, сколько снижение КОГНИТИВНОЙ нагрузки на врача за счет автоматизации рутинных процессов.

И это лишь первый шаг, на его основе уже строится мед помощник как система "второе мнение" для врача. Цель таже самая: снижение когнитивной нагрузки.

Дальше уже третьим этапом строится аналитика и отчетность по работе. И вот тут уже ускорение в чистом виде.

Суть ML-автоматизации в медицине заключается в улучшении качества обслуживания и снижения количества ошибок. Увеличение скорости же продают владельцу бизнеса тк иначе он может не понять целесообразность.

[Vladlen_Babkin]

Приветствую Вас, ToxaBes, и благодарю за время, уделённое прочтению моего первого материала и за комментарий! Как начинающему автору, мне это особенно важно.

По первой части Вашего комментария о БФМ позиция понятна. В отношении остального, есть важный нюанс, который стоит разделить. Рутинные процессы в работе врача и когнитивная нагрузка, связанная с принятием клинических решений, не одно и то же. Например, заполнение электронной медицинской карты, перенос данных в поля протокола сами по себе не требуют клинического мышления. При этом они занимают время, отвлекают внимание и переключают врача между разными задачами.

Нас, врачей, как раз и готовили много лет для решения сложных когнитивных задач с использованием клинического мышления. Основная проблема, на мой взгляд, заключается именно в том, что время и интеллектуальные ресурсы специалиста расходуются на операции, для выполнения которых его медицинская квалификация зачастую избыточна, вместо того чтобы сосредоточиться на анализе клинической ситуации, дифференциальной диагностике, оценке рисков и выборе тактики лечения.

Более того, когда документация начинает конкурировать с пациентом за внимание, врач вынужден распределять его между содержанием беседы, клиническим анализом и необходимостью корректно оформить запись. Это дополнительная нагрузка, но её источник не в сложности клинической задачи, а в организации рабочего процесса.

Вот почему я рассматриваю автоматизацию документации с помощью ИИ не просто как способ сэкономить несколько минут на приёме, а как возможность вернуть врачу время и внимание для того, ради чего он, собственно, и нужен пациенту. Это не означает, что любая цифровизация автоматически улучшит качество медицинской помощи. Важно, чтобы технология действительно снимала рутинную работу, а не создавала новые задачи по проверке и исправлению её результатов.

В своей статье я вскользь упомянул об успешном московском эксперименте при использовании технологий обработки изображений в работе врачей-рентгенологов. В результате многолетней работы, с преодолением многочисленных технических и организационных сложностей получен положительный эффект, который заключается в повышении пропускной способности и доступности лучевой диагностики при оказании амбулаторно-поликлинической помощи москвичам без снижения качества результатов. Экономический эффект заключается в том, что не пришлось кратно увеличивать штат врачей-рентгенологов в системе ДЗМ.

В амбулаторном кластере Депздрава Москвы ежедневно выполняется более 20 тыс. рентгенологических исследований. В высокие сезоны (весна/осень) активной диспансеризации населения количество исследований увеличивается под 30 тыс. в день. Более половины из них составляют скрининговые флюорография (ФЛГ) и маммография (ММГ). В структуре ФЛГ более 90% исследований – это норма. Компьютерная обработка изображений позволила сократить время их анализа в 5 – 6 раз при уровне чувствительности модели более 95%, что выше, чем у человека, т.к. модель не отвлекается и не устаёт от монотонной работы. Если описать процесс упрощённо, то врач оценивает результаты работы ИИ, обращает внимание на те участки, которые ему подсвечивает модель и либо валидирует нормальный результат, либо отмечает «не норму» и пациент направляется на диагностическую рентгенографию.

ToxaBes, когда врач-рентгенолог сотню раз в день в заключении пишет фразу типа: «Органы грудной клетки без видимой патологии» и рассматривает одинаковые изображения, он не испытывает высокой когнитивной нагрузки, а вот его клиническое мышление от такой работы притупляется и деградирует. На этом примере, отчётливо показано, как ИИ помогает человеку в рутинной работе, освобождая его время и умственную энергию для более важных дел.

Возможно, мы с Вами немного по-разному понимаем, что именно формирует когнитивную нагрузку врача. Буду рад продолжить дискуссию, поскольку вопрос действительно важный.

[ToxaBes]

ToxaBes, когда врач-рентгенолог сотню раз в день в заключении пишет фразу типа: «Органы грудной клетки без видимой патологии» и рассматривает одинаковые изображения, он не испытывает высокой когнитивной нагрузки

Разве? А постоянная потеря/восстановление локуса внимания из-за переключение туда-сюда? Чтобы почувствовать разницу, представьте, что "Органы грудной клетки без видимой патологии" уже указано по умолчанию, и заменяется, только если врач отдельно это проговорит.

Возможно, мы с Вами немного по-разному понимаем, что именно формирует когнитивную нагрузку врача.

Да, под когнитивной нагрузкой я понимаю все что заставляет выпадать из потока размышлений. Все переключения, отвлечения и тд. Пример избегания переключений и снижения связанной с этим когнитивной нагрузки: западные психологи перешедшие на диктофоны.

Буду рад продолжить дискуссию, поскольку вопрос действительно важный.

Я не специалист в медицине, но по роду деятельности много приходится автоматизировать процесс человеческой деятельности различных специалистов с помощью ML. Поэтому я просто поделился своими наблюдениями, везде одно и тоже с когнитивной нагрузкой из-за переключений контекста туда-сюда.

[Vladlen_Babkin]

"Разве? А постоянная потеря/восстановление локуса внимания из-за переключение туда-сюда? Чтобы почувствовать разницу, представьте, что "Органы грудной клетки без видимой патологии" уже указано по умолчанию, и заменяется, только если врач отдельно это проговорит".

В МИС обычно уже есть шаблон заключения. Врачу лишь надо его кликнуть, чтобы текст отобразился в соответствующем поле. Мгновение.

Я отношусь к тем, руководителям, которые только приветствуют технологические новинки, но обдуманно. У меня нет отрицания к голосовому заполнению меддокументации. Вопрос в том числе и организационный. Врач-рентгенолог, который традиционно не консультирует пациента, может себе это позволить. В частности, в НПКЦ ДИТ ДЗМ, в котором сейчас централизованно работают врачи-рентгенологи, используется ПО "Voice2Med" от компании "Центр речевых технологий". На практике его используют около 1/3 врачей и это - их добровольный выбор.
Иное дело, когда врач заполняет медицинский протокол в присутствии пациента. Из соображений профессиональной этики и деонтологии мы не произносим вслух некоторые вещи, оберегая пациента, но вносим их в протокол. Ручной ввод и возможность редактирования протокола пока ещё актуальны.

[ToxaBes]

Голосовой ввод данных был указан в качестве примера. При процедурах типа УЗИ, я помню (как пациент), что один специалист диктует, что он видит на экране, второй записывает.

Про неуместность проговаривания на приеме полностью согласен, но тут у нас смешались разные примеры работ врача, думаю их нужно разделять и автоматизировать по разному.

По моему мнению, цель автоматизации все равно заключается не в том чтобы принимать 15 человек в день вместо 10, а чтобы делать одну ошибку вместо трех на этих 10 пациентах (условно, масштаб ошибок для иллюстрации). Если в итоге врач сможет принимать 12 чел в день вместо 10 это прекрасно, но не должно быть главной целью в мед автоматизации.

[Vladlen_Babkin]

Согласен с тем, что автоматизация работы врачей разных специальностей будет отличаться. У врача УЗД и терапевта есть отличные друг от друга составляющие рабочих процессов. Другой вариант, когда один и тот же специалист работает в разных условиях. Например, врач-хирург на амбулаторном приёме или при обходе пациентов в палате стационара и этот же доктор в операционной.

Еще один уточняющий вопрос. О каких ошибках Вы пишите в своих комментариях?
- "Суть ML-автоматизации в медицине заключается в улучшении качества обслуживания и снижения количества ошибок". 
- "...цель автоматизации все равно заключается не в том чтобы принимать 15 человек в день вместо 10, а чтобы делать одну ошибку вместо трех на этих 10 пациентах...".

[ToxaBes]

О каких ошибках Вы пишите в своих комментариях?

О человеческих.

[AlexeyLapunov]

Я не из медицины, занимаюсь проектированием работы с ИИ. Вот как я бы подходил к обоим вопросам.

Окупаемость — начинать с рисков, а не с экономии. От недопустимых последствий зависит, где и насколько строго проверять результат, а проверка часто становится главной статьёй затрат.

1. Для процесса — приёма, назначений и т.п. — заранее запишите, какие последствия ошибки клиника не примет ни за какую экономию. Например: неверная доза в записи, по которой потом назначат лечение; пропущенное взаимодействие препаратов; данные пациента, ушедшие не тому адресату. Список утверждает руководитель процесса, и от инструмента он не зависит: он одинаков для любого ИИ и для человека.

2. Найдите место, где такую ошибку можно поймать до того, как по ней начнут действовать, и замерьте, сколько стоит эта проверка на один случай. Проверка должна быть независимой от ИИ и опираться на внешние факты, а не на его выводы. Часто проверка съедает ровно те минуты, которые обещал поставщик.

3. Если поймать ошибку нечем, меняйте работу так, чтобы критичный факт приходил к ИИ уже подтверждённым. Если и это невозможно, откажитесь от инструмента.

4. Сравните затраты до и после целиком: время людей проверку и исправления, потери от пропущенных ошибок, интеграцию и обучение — а не только цену от вендора. Считайте все инструменты вместе, иначе одно и то же время врача «сэкономят» дважды.

5. До пилота договоритесь, при каких результатах инструмент внедряется шире, при каких дорабатывается и при каких от него отказываются. Например: «расширяем, если время на приём сократилось хотя бы на X минут и не было ни одной пропущенной опасной ошибки». Если правило не записать заранее, после пилота любой результат можно объяснить в пользу продолжения.

Качество — своя приёмка, а не доверие вендору.

1. Соберите эталонный набор из своих обезличенных случаев. Обязательно включите трудные и опасные — те, что ведут к недопустимому. Правильные ответы у вас есть в МИС или пусть размечают врачи независимо от ИИ: если брать записи, сделанные с помощью ИИ, в эталон попадут его же ошибки.

2. Заранее запишите критерии приёмки на этом наборе — в терминах работы, а не метрик модели: «ни одной пропущенной аллергии», «правки требует не больше X% записей».

3. Любая новая версия и любой новый поставщик проходят этот набор до включения. Если поставщик не готов это обещать, это тоже ответ.

4. После включения регулярно проверяйте по тем же критериям выборку. Если ошибок больше порога, возвращайтесь к полной проверке.

[Vladlen_Babkin]

Доброе утро, Алексей!
Благодарю Вас за то, что уделили время прочтению моего первого материала и за конструктивную обратную связь! Чувствуется профессиональный подход. Ваш совет абсолютно практичный и его можно положить в основу методологии принятия решений для внедрения и развития любого цифрового решения. Успехов!!