13 октября в Сочи стартовал региональный (по ЮФО) хакатон проекта «Цифровой прорыв. Сезон: Искусственный интеллект», входящего в президентскую платформу «Россия — страна возможностей». В день открытия на панельной дискуссии одним из спикеров выступил Антон Киселев, заместитель директора по научно‑технологическому развитию ФГБУ «Национальный медицинский исследовательский центр терапии и профилактической медицины» Минздрава России. В своём интервью информационной службе Хабра, взятом на мероприятии, Антон Киселев рассказал о целях внедрения ИИ в медицине, насущных проблемах в этой области, нюансах со сборами датасетов для обучения ИИ и не только.
Какая конечная цель от внедрения ИИ в медицине? Это станет инструментом для профессионалов, допустим, как помощь врачам, или стоит задача развития ИИ‑систем как самостоятельного инструмента, который будет ставить диагноз самостоятельно?
Антон Киселев. Немного скорректирую. ИИ как инструмент для профессионалов — это вполне понятно и очевидно, вещь нужная и правильная, тут комментариев нет, и цель такая стоит. Но к тому, что выходит за пределы медучреждений, когда пациент сам обращается к медицинским сервисам, я бы термин «постановка диагноза», наверное, всё‑таки не применял. Здесь задача совсем другая. Она не в том, чтобы поставить диагноз, он на самом деле пациенту не нужен. Самостоятельно узнав диагноз, пациент, к сожалению, может начать лечиться при помощи гугла, и это ещё хуже.
С точки зрения удалённых ИИ‑сервисов задача другая — базовый скрининг и направление к специалисту, если есть определённые подозрительные признаки того или иного заболевания. Очень любопытный вариант практического применения — онлайн‑сервис для анализа родинок. Он не ставит диагнозы, но позволяет людям базово подтвердить или опровергнуть определенные сомнения. ИИ анализирует загруженное изображение, в зависимости от результата советует обратиться к специалисту или говорит, что не нашёл подозрительных признаков на фото. Классическая задача для машинного зрения.
То есть ИИ‑системам для использования пациентами не нужно ставить диагноз, такой задачи нет. Нужно, чтобы если что‑то происходит вне медицинских учреждений, помочь вот таким образом маршрутизировать пациентов в правильное учреждение.
То есть в телемедицине это чисто направление к верному специалисту, если пациент сомневается?
Антон Киселев. Да, по сути, это скрининг. К тому же ИИ — это прекрасная технология для виртуальной регистратуры. К примеру, уже проводятся пилотные исследования анализа состояния пациентов по специфике речи. Если пофантазировать на будущее, фактически человек уже позвонив в регистратуру сможет пройти первичный анализ состояния здоровья по голосу. Результаты такого скрининга не всегда даже нужно передавать пациенту, главное, чтобы их знал его лечащий врач. Вот это, наверное, на данном этапе самый правильный путь продвижения ИИ в практическую медицину, потому что заменять человека‑специалиста на ИИ в медицине точно не нужно, так как это сопряжено с очень большими рисками.
Не приведёт ли этот путь к тому, что, грубо говоря, врачи начнут лениться и излишне полагаться на результаты скрининга ИИ?
Антон Киселев. Не думаю, что все врачи внезапно будуть лениться. Большинство людей, которые посвятили себя медицине, идут в эту профессию, потому что хотят работать и помогать людям. Действительно, работа в практическом здравоохранении сопряжена со значительным количеством формальных процедур и других рутинных моментов. Вот тут как раз пригодятся любые технологические решения, которые облегчают жизнь врачу и позволяют ему больше времени уделять пациентам. Это и любые системы для автоматической обработки, заполнения и редактуры документов, системы базового считывания результатов, например ЭКГ и КТ и не только. Когда идёт поток пациентов, у врача всё‑таки ограниченный лимит времени на одного человека, и чем дольше он будет заниматься какими‑либо рутинными процедурами, тем меньше времени у него остается на пациента. Если при помощи ИИ автоматизировать часть процессов, у врачей появится больше времени на работу с пациентом и, соответственно, повысится качество оказываемой медицинской помощи.
То есть всё равно идёт речь о замене человека на каких‑то этапах?
Антон Киселев. Только на этапах, где нельзя допустить фатальную ошибку, где можно положиться на ИИ. Я не переоцениваю на данном этапе развития ИИ сервисы. Пока вряд ли они способны полностью заменить специалиста. И хотя последние новости и открытия на стыке медицины и ИИ выглядят многообещающе, доведение их до практического применения — работа на перспективу.
Добавлю пример. Есть такое направление в медицинской науке, как цифровой двойник пациента. Вот уже несколько десятилетий речь идёт о персонализации терапии. Концепция цифрового двойника подразумевает, что если создать модель именно отдельного пациента, ею можно пользоваться в течение жизни этого пациента, отслеживать изменения, прогнозировать заболевания, тестировать на ней лечение и не только.
А насколько это тяжело с точки зрения хранения и обработки данных?
Антон Киселев. Естественно, это требует хороших вычислительных мощностей, которых тоже, к сожалению, в реальном здравоохранении зачастую нет. О массовости пока речь не идёт. Но процесс цифровизации здравоохранения продвигается. Возможно, в краткосрочной перспективе некоторые технологические решения (например облачные) будут позволять поликлиникам в регионах внедрять инновационные решения на основе ИИ.
Тут же всплывает вопрос о защите персональных данных в процессе их передачи и хранения. Есть вполне обоснованные ограничения, нередко больше юридического характера, чем технического. Да, мы могли бы делать ставку на облачные решения, но это небезопасно с точки зрения хранения данных пациентов. При этом на локализацию не всегда хватает технических мощностей. Надеюсь, со временем данную проблему решит совершенствование вычислительных алгоритмов и технологий хранения/передачи данных.
Можете назвать какие‑нибудь ИИ‑сервисы и решения, которые уже в течение пяти ближайших лет могут быть широко внедрены в отечественное здравоохранение?
Антон Киселев. Ну почему в течение пяти лет... Широкое внедрение ИИ в отечественное здравоохранение происходит прямо сейчас, ИИ‑сервисы выходят в практическую медицину. Например, в Москве в экспериментальном режиме ИИ активно внедряется в лучевую диагностику. Другой пример, в период пандемии Covid-19 в нашей стране был разработан целый ряд систем компьютерного зрения для задачи контроля соблюдения масочного режима в медицинских учреждениях и местах массового скопления людей. Одна из таких систем, в частности, была разработана и активно применялась в нашем НМИЦ терапии и профилактической медицины в тот сложный для всей страны период. Уже сейчас ИИ помогает учёным обрабатывать большие массивы биомедицинских данных для задач развития медицины и фармацевтики.
На пленарном заседании вы указали, что вам нужно сейчас сформировать новый датасет для проектов. По какой причине нельзя пользоваться зарубежными датасетами от крупных международных медорганизаций: не разрешают или они просто не подходят?
Антон Киселев. Очевидно, в связи с текущей политической ситуацией появились некоторые ограничения, но они не повсеместны. Имеются достаточно универсальные и доступные зарубежные датасеты, например в области генетики. Но нам необходимы датасеты, которые бы позволили решать текущие задачи именно нашего отечественного здравоохранения, с учётом многообразия географических, этнических, социокультурных и других факторов, влияющих на здоровье населения.
Необходимо создавать датасеты с учётом особенностей нашей популяции. Достоверно известно, что восприимчивость к различным инфекциям, болезням и даже фармпрепаратам зависит от региона проживания, расы, питания и не только. Факторы риска везде разные по многим причинам, и беря за основу зарубежные датасеты с ограниченными данными, мы не получим нужной нам картины. Нужно работать над собственными датасетами.
Как вы оцениваете собранный вами датасет? Его уже можно использовать в разработке?
Антон Киселев. Кейс, представленный нашим научным центром на Хакатоне, имеет выраженное прикладное значение. Ставится задача интерактивной оценки соответствия городской инфраструктуры, в которой мы с вами живём, современным представлениям о здоровьесберегающей окружающей среде. Если команды предложат технологическое решение высокой степени готовности, то внедрять его можно будет немедленно.
В вашем случае как собираются данные и какая работа ведётся с людьми, на которых эти данные основываются?
Антон Киселев. Это процесс медленный и к нему надо подходить очень серьёзно. К слову, скажу, что наш центр обладает самым большим биобанком в России. Это хранилище биоматериалов и как раз то, из чего потом создаются датасеты для ряда задач. Мы собираем пробы биоматериалов не только от пациентов нашего центра, но и из учреждений других регионов. Каждый пациент, у которого взята проба, до мелочей знает, куда пойдет его пробирка, на какие цели и какая с ней будет вестись работа. Пациент имеет право отказать в разрешении хранить и использовать его биоматериалы. Такие пациенты есть, но большинство соглашается для пользы науки.
У многих пациентов встаёт вопрос безопасности хранения его данных. У нас это так решается. Серверы, хранящие цифровые данные в зашифрованном виде, не подключены напрямую к внешним сетям коммуникаций. Для кражи данных необходим физический доступ к серверам, но он строго ограничен. К тому же данные хранятся не в одном месте, а по отдельности. Только операторы знают, как расшифровать те или иные данные и к какому пациенту они относятся. Даже при условии проникновения на территорию с физическим захватом этой информации у «грабителя» окажется бессвязный набор диагнозов и результатов анализов без привязки к людям, регионам и прочей важной информации.
Какие неочевидные моменты в сборе датасетов можете назвать?
Антон Киселев. Для обучения ИИ датасет должен обязательно иметь высокий уровень доверия к тем заключениям, которые в последствии будет «генерить» ИИ‑сервис. Причём в идеале для каждого объекта итоговое заключение необходимо формировать мнением не одного эксперта, а согласованным решением нескольких независимых экспертов. Это необходимо для исключения влияния человеческого фактора на принятие того или иного заключения.
Вернёмся к ИИ‑системам. Есть ли в медицине проблема неуместного использования ИИ‑систем? То есть когда усложняют процессы из‑за моды на ИИ и используют его там, где он абсолютно не нужен?
Антон Киселев. В медицине я такого не вижу. Когда медики ставят задачу для технологических команд, они хотят получить решение максимально простое и понятное. Чем сложнее решение и система, тем тяжелее и болезненнее её внедрять, а с учётом нагрузки на медработников никому не нужно усложнение и удорожание процессов ради хайпа.
Совершенно другая история и повсеместная проблема, когда неожиданно медицинскими задачами начинают заниматься все подряд, абсолютно без консультации с медиками, либо взяв консультацию просто у отдельно взятого медработника или даже студента. Это новый уровень самолечения, когда дилетанты разрабатывают ИИ‑системы, широко доступные гражданам, не имея достаточной квалификации в медицине и зачастую даже не обращаясь к медикам и учёным с вопросами тщательной проработки таких вещей. Негативный эффект от широкого распространения таких приложений и систем сложно недооценить. Для их разработки мало консультации с 1–2 специалистами, особенно когда речь идёт о массовом использовании.
Есть возможность законодательно регулировать распространение и разработку таких приложений? Например, перед загрузкой в магазины приложений обязывать проходить сертификацию у регуляторов?
Антон Киселев. С теми цифровыми решениями, которые попадают под категорию «медицинские изделия» с учётом их функциональных возможностей и назначения, всё более‑менее понятно. Нормативная база имеется. Но это малая часть, и разработчики подобных цифровых продуктов изначально подходят к вопросу ответственно.
В отношении остального, работа ведётся. Обсуждаются различные законодательные инициативы, направленные на сдерживание бесконтрольной цифровизации сферы здоровья. Речь не только об ИИ, но и различных блогах «народных целителей» и т. д.
Последний вопрос, немного философский. Каким видите развитие и практическое применение ИИ в России в ближайшие 5–10 лет?
Антон Киселев. Цифровая трансформация здравоохранения будет набирать обороты, и роль ИИ будет в ней весьма значительна. Могу предполагать в ближайшие 5–10 лет взрывной рост числа цифровых решений, направленных на оптимизацию процесса медицинской помощи на разных уровнях. Тут и системы поддержки врачебных решений в ходе диагностики и лечения, и электронный документооборот, и системы обработки больших данных, и системы управления здоровьесберегающей средой. Уверен в расширении и упорядочивании интернета «умных вещей», которые будут помогать людям следить за своим здоровьем и следовать принципам здорового образа жизни.
UPD (вопрос-ответ из комментариев) // Прогресс внедрения ИИ в медицину это конечно хорошо, только один аспект остается ключевым, - ответственность врача. Когда врач применяет собственные знания, собственный клинический эмпиризм, свое понимание национальных стандартов диагностики и лечения, протоколирует это свое видение в истории болезни, то не в последнюю очередь врач мотивирован ответственностью перед больным и коллегами. А вот в самом применении технологий ИИ, где там разграничение ответственности врача и разработчиков?
Антон Киселев. Вопрос верный и по существу проблемы! В связке «врач‑ИИ» роль ИИ, в настоящее время, заключается обычно в поддержке врачебных решений, ну или как максимум второго мнения. При этом допуск ИИ к выполнению подобных функций в практической медицине строго регламентирован. ИИ‑сервисы, непосредственно участвующие в процессе оказания медицинской помощи, попадают под обязательную гос регистрацию по правилам, применяющимся к медицинским изделиям. Конечно, есть свои особенности, но любой цифровой продукт в ходе регистрационных процедур подвергается тщательной экспертизе на клиническую эффективность и безопасность.
Именно на этом уровне и происходит разграничение сфер ответственности за допуск ИИ‑сервиса в клиническую практику. Ответственность же за принятие решения по конкретному пациенту остаётся полностью на враче, независимо от того, принимал он во внимание «мнение» ИИ‑помощника или нет.
