Пять звеньев управления медицинским ИИ

В национальной стратегии Республики Казахстан записано: «не менее 80% клинических решений в стационаре с применением ИИ к 2029 году». Порядка допуска ИИ в клинику при этом нет, ответственность за ошибку алгоритма публично возложена на врача, а единственная цифра пользы — «до 20% экономии времени врача» — взята из пресс-релиза. Я знаю, как такие показатели появляются и во что превращаются: подключат всё, что подключается, в информационной системе появится галочка «решение принято с ИИ», и через два года её будут ставить автоматически. Это не казахстанская особенность, а типовой сбой управления, и у него есть хорошее описание — пять звеньев, которые надо проверить прежде, чем ставить ИИ в KPI. Ниже разбираю их на нашем материале и объясняю, почему цепь у нас нужно запускать с другого конца.

Отправная точка — работа Robin van Kessel, Alexander Carter, Khurram Nasir и Elias Mossialos из LSE Health «Artificial intelligence needs better health systems to reduce inequalities» в npj Digital Medicine (DOI 10.1038/s41746-026-03041-2, лицензия CC BY 4.0). С работой я согласен настолько, что спорить буду не с тезисами, а с порядком их применения. Главная мысль: ИИ сокращает неравенство только при исправной цепи из пяти звеньев — правовая база данных, конвейер доказательств, регулирование и доступ на рынок, кадры, общественное доверие. Слабость одного звена не остаётся в нём, а каскадом идёт дальше. Это верно. Но цепь у авторов начинается с данных и заканчивается доверием, потому что написана из систем, где данные есть, а доверие надо заслужить. Для системы, где данные собраны наполовину, специалистов в районах нет, а платит один фонд, порядок должен быть другим.

Звено 1. Данные: монополист у нас другой

Авторы видят главную угрозу в коммерческом огораживании: датасеты становятся активами, лицензирование ужесточается, и даже репрезентативные данные не делаются доступнее. Лекарство — принципы FAIR и регламент о Европейском пространстве данных здравоохранения (EHDS), который обязывает держателей отдавать данные для вторичного использования, включая обучение ИИ. Плюс оговорка о суверенитете: страны с низким и средним доходом вправе не отдавать данные в чужие наборы.

Первое, что я здесь думаю: авторы воюют не с тем монополистом. У нас крупнейший пул медицинских данных держит государство. Единое хранилище медицинских данных к началу 2026 года, по заявлениям Минздрава, аккумулировало данные примерно 80% населения с ретроспективой с 2015–2016 годов; с 12 июля 2026 года медицинская информационная система стала лицензионным требованием для любой медорганизации. Big Tech ничего не огораживает, потому что рынка данных нет вовсе. Закон об ИИ №230-VIII (в силе с 18.01.2026) и Цифровой кодекс №255-VIII (подписан 09.01.2026) вводят риск-классификацию систем, право на объяснение алгоритмического решения и понятие платформы оборота продуктов данных — но правил обезличивания и вторичного использования именно медицинских данных на август 2026 года нет. Есть приказ ДСМ-30 с фигурой «агрегатора» с 2023 года, и это всё.

Второе — про суверенитет данных. Авторы вводят его как защиту слабых от экстрактивных исследований, и в их логике это правильно. В нашей логике это самое опасное место работы: оговорка, написанная для защиты, становится оправданием. «Мы не отдаём данные никому» звучит как суверенитет, а работает как самопричинённая бедность данных — та самая, о которой пишут Ibrahim et al. в Lancet Digital Health. Я видел, как запрос университета на обезличенную выборку для обучения модели ходил между ведомствами больше года, потому что ни у кого не было полномочий сказать «да», а сказать «нет» мог каждый. Данные при этом утекали целиком — об этом в пятом звене.

Отсюда моя поправка к порядку. FAIR-метаданные — шаг второй. Шаг первый — разрешительный орган и защищённая среда обработки, откуда выходят только агрегаты после контроля раскрытия. В EHDS такой орган есть (health data access body), и именно он, а не каталог метаданных, превращает «данные в принципе есть» в «данные можно получить за известный срок по известной процедуре». У нас держатель данных и регулятор — одно ведомство, процедуры доступа нет, и пока её нет, FAIR нечего описывать.

Звено 2. Доказательства: механика верная, оси неравенства чужие

Самая сильная часть работы, и здесь я согласен почти во всём. Авторы опираются на обзор Muralidharan et al.: из 692 одобренных FDA ИИ-медизделий менее 20% раскрыли возрастной состав выборки, 3,6% — расово-этнический, 1% — социально-экономический. Регулятор пропускает устройства, про которые неизвестно, на ком они работают. Для языковых моделей добавляется критика оценок «N из 1»: один сценарий, одна генерация, и стохастическую систему оценивают как детерминированную. Предложение — дизайны с повторной выборкой, заранее заданный анализ по подгруппам, пороги допустимой вариативности, мониторинг после внедрения.

Идея «N из 1» кажется мне лучшей в статье, и она шире языковых моделей. В нашей системе доказательства рождаются именно так, только в масштабе страны: одно внедрение, одна цифра, без подгрупп и без контрольной группы. ИИ-диагностика инсульта по КТ прошла оценку технологий здравоохранения и работает в 49 инсультных центрах; ИИ-ассистента врача, по данным Минздрава, к марту 2026 года используют 9 000 врачей в 700 с лишним организациях с «экономией до 20% времени». Обе цифры ведомственные, независимых измерений нет. Я много раз наблюдал, как пилот на 30 клиник становился национальным стандартом только потому, что у него была одна цифра, а у альтернатив — ни одной. Авторы предлагают считать такие оценки «пропускными» — основанием финансировать исследование, а не масштабировать. Я бы записал это в порядок допуска буквально, одной строкой: цифра из пилота без контрольной группы не является основанием для тиражирования.

Где не согласен — в наборе подгрупп. Западная литература по алгоритмической справедливости считает по расе, полу и доходу, и авторы тоже. У нас ось неравенства проходит в другом месте: город — село, язык обращения (казахский или русский), наличие специалиста в пределах досягаемости и статус в системе страхования (охват ОСМС — около 84% населения). Модель, точная «в среднем по стране», может быть бесполезна в районной больнице, где снимок другого качества, анамнез записан на другом языке и нет радиолога для перепроверки. Если скопировать требования к отчётности по подгруппам из FDA один в один, мы обяжем разработчиков отчитываться по признакам, которые для нас не главные, и пропустим главные. Требование «отчитываться по подгруппам» надо брать; список подгрупп — писать свой. И это работа регулятора, а не разработчиков: пока в данных нет признака «село/город», отчёта по главной оси не будет никогда.

Ещё один пункт, который авторы поднимают, а я бы отложил, — экологический след моделей как часть оценки. Для системы, где вопрос в том, есть ли в районе связь, чтобы ИИ вообще работал, это третья очередь. Не потому что неважно, а потому что у регулятора с двумя специалистами на направление приоритеты должны быть жёсткими.

Звено 3. Регулирование и рынок: один плательщик — преимущество и ловушка

Авторы предлагают двухуровневую схему: минимальные требования к репрезентативности как условие допуска и возмещения, стимулы для тех, кто делает больше. И главное — реформу оплаты: уйти от платы за использование ИИ к оплате за результат, иначе рынок, выращенный венчурными деньгами, оптимизирует масштаб, а не пользу. Существующие нормы о подгруппах — раздел 907 FDASIA, регламент ЕС о клинических исследованиях — применимы, только когда ИИ уже признан медизделием.

Здесь мой главный тезис ко всей работе: оплата — единственный рычаг, который реально меняет поведение клиник. Приказы о внедрении, рейтинги, дорожные карты работают, пока за исполнением следят, и перестают, когда перестают. Авторы пишут о реформе оплаты как о дальней цели, потому что в их системах плательщиков много и согласовать модель — годы. У нас один фонд и одна тарифная методика; с июля 2025 года действует единая система оплаты медпомощи, где мониторинг качества и оплата сведены в один контур. Условие «возмещается результат допущенной и мониторируемой ИИ-системы, а не факт подключения» — это один тарифный цикл, а не реформа. Редкий случай, когда централизация в плюс.

Но тот же рычаг уже повёрнут в обратную сторону. Показатель «80% решений с ИИ» из стратегии Digital Qazaqstan (Указ №1311 от 09.06.2026) — ровно тот стимул объёма, от которого предостерегают авторы: считается факт применения, а не исход. Порядка допуска ИИ как отдельного класса медизделий нет — критерии программного обеспечения как медизделия появились в правилах «единого окна» регистрации (совместный приказ МЗ №40 и МЦРИАП №169/НҚ от 22.04.2025), отдельного порядка для систем, которые меняются после регистрации, нет. Разница между «доля решений с ИИ» и «доля решений с допущенным и мониторируемым ИИ» — не редакторская, это развилка на четыре года.

С авторами я расхожусь в оценке венчурного давления. Они боятся рынка, который монетизирует слишком быстро. У нас обратная проблема: рынка почти нет, два-три поставщика, закупка через госзадание, и «стимулы для тех, кто делает больше» адресовать некому. Зато есть окно, которого у Европы нет: AI Act накладывается на регламент о медизделиях так, что большинство клинических систем попадает в высокий риск с длинным и дорогим путём на рынок, и сроки ЕС продолжает сдвигать. Страна, которая первой предложит быстрый, но честный путь валидации — обязательная отчётность по своим подгруппам плюс обязательный мониторинг после внедрения, — получит разработчиков, которым негде провести проспективное исследование. Для этого не нужны деньги, нужен порядок. И нужно выдержать искушение сделать путь быстрым, но нечестным: он у нас получится сам собой, если ничего не делать.

Звено 4. Кадры: аргумент о деградации навыков у нас переворачивается

Авторы фиксируют: обучение ИИ в медицинских программах встроено непоследовательно, доступ у медсестёр, врачей общей практики и узких специалистов неравный, появляются данные о деградации навыков при опоре на ИИ. Риск — двухуровневая система, где качество помощи зависит от того, где и кто её оказывает.

Это написано из системы, где специалист есть, и вопрос в том, не разучится ли он думать. Тревогу понимаю, но у нас вопрос другой: в районе специалиста нет, и ИИ по факту становится не помощником, а заменой. Деградировать нечему. Двухуровневость возникает без всякого обучения: в городе ИИ-заключение читает радиолог, в районе — фельдшер, и одна модель с одной точностью даёт разный исход. Поэтому приоритеты я бы переставил: компетенции в учебных программах — да, но долгосрочно. Первым делом нужны правила для мест, где некому перепроверить: какие заключения можно принимать без подтверждения специалиста, какие обязательно уходят на телеконсультацию, как это оплачивается и кто отвечает. Сейчас ответ на последний вопрос — «врач», то есть фельдшер в районе рискует больше всех, имея меньше всех возможностей проверить. Это не кадровая проблема, а регуляторная дыра, которую авторы положили не в то звено.

И про метрику. Единственный показатель кадрового звена, который не врёт, — время врача на пациента и на ввод данных. Хроническая претензия врачей к информационным системам — двойной ввод; ответ ведомства — «админнагрузка снижена до 40%», подтверждений вне пресс-релизов нет. Если ИИ-ассистент даёт время, это видно в недельном хронометраже в десяти клиниках. Пока такого измерения нет, звено оценивается по числу подключённых организаций, а это метрика внедрения, не пользы.

Звено 5. Доверие: авторы ставят его в начало, я — в конец

Авторы считают доверие предпосылкой управления, а не результатом: без общественной легитимности остальные реформы не пройдут. Механизмы — гражданские ассамблеи, постоянные панели пациентов, обязанность регулятора консультироваться.

Здесь моё самое сильное несогласие. Доверие к медицинским данным в нашей системе подорвано вещами, к ИИ отношения не имеющими. В 2025 году обнаружена утечка записей о 16,3 млн граждан, по предварительной версии следствия — из медицинских организаций. Аудит фонда медстрахования в январе 2026 года показал оплаченные услуги умершим, скрининги не по полу на 1,8 млрд тенге и врача, «принявшего» 1 442 пациента за день. Предлагать после этого ассамблею по этике алгоритмов — обсуждать цвет штор в доме без двери.

Доверие у нас восстанавливается не консультациями, а проверяемыми транзакциями. Цифровая идентификация пациента на приёме, введённая с августа 2024 года, за год предотвратила необоснованных услуг на 10,6 млрд тенге. Это и есть механизм доверия — встроенный в поток денег, а не в повестку совещаний. Пациент подтверждает факт услуги до оплаты; врач подписывает формуляр электронной подписью; нет верифицированной цепочки — нет возмещения. Когда такая цепочка работает, на неё можно навесить и согласие на вторичное использование данных, и уведомление «в этом решении участвовал алгоритм». Без неё любые декларации прозрачности — слова. Ассамблеи и панели не вредны; они просто обсуждают то, чего без первых шагов не существует.

Что переставить

Рамка van Kessel и соавторов работает как диагностика: пройти по пяти звеньям и честно назвать слабейшее полезно в любой системе, и для нашей это звено доказательств. Как порядок действий она не работает. Авторы выстраивают цепь от данных к доверию, потому что у них данные есть. У нас цепь нужно запускать с другого конца: сначала проверяемая транзакция в оплате — она одновременно даёт доверие, данные приемлемого качества и рычаг для условий допуска. Потом разрешительный орган для данных. Потом требования к доказательствам по своим осям неравенства. И только потом учебные программы и гражданские панели, которые без первых трёх шагов обсуждают несуществующее.

Что проверить самому

Если вы делаете медицинскую систему или модель для неё, три вещи стоит сделать до следующего релиза. Первое: посчитать, по каким подгруппам вы вообще способны отчитаться о качестве модели — если в данных нет признака «село/город» или языка обращения, отчёта по главной оси неравенства не будет никогда. Второе: посмотреть, что именно в вашем контракте с клиникой оплачивается — факт подключения или результат; во втором случае у вас есть аргумент для тарифной методики, в первом вы в группе риска при любой смене показателя. Третье: прочитать саму работу — она короткая и в открытом доступе, а её таблица «домен — пробел — действие — цена бездействия» — готовый формат внутреннего аудита для любой организации, которая ставит ИИ в клинику.