Comments 82
Если это будет медицинский девайс, то сертификация должна быть как на медицинское оборудование, что дороже и сложнее получить (а значит устройство будет дороже стоить)
а если он еще будет диагноз ставить и лекарство предлагать, то вообще непонятно, что за сертификат делать, ведь это по сути врач получается. А кто отвечать будет за неправильно назначенное лечение?
Ситуация похожа на автопилот-водитель. Вроде «просто», но получается сложно, дорого, нужны разрешения, есть разные ограничения. Но потихоньку все это преодолеют и автопилоты будут везде.
А потом (эксперименты уже идут) придет время автодокторов и автоаптечек, которые сами поставят диагноз и сами дадут лекарство (и сами купят)
А ошибки (не программные) все-равно будут повторяться. То же повышение давления может быть по сотне разных причин. Придется переводить всю больничную историю клиента в электронный вид (это в любом случае пора уже сделать) и давать к ней «электродоктору» доступ, а иначе диагноз не поставить.
Итак, что у нас с исками к правообладателю ПО за понесенный ущерб? Как мне известно, стандартная практика — отказ от ответственности за действия пользователя.
а причем здесь действия пользователя? мы предполагаем, что пользователь прочитал инструкцию и делает все верно. Просто устройство не смогло поставить верный диагноз и причинило ущерб ошибочным лечением.
как пример — самовозгорания Самсунговских смартфонов. Некоторое кол-во смартфонов начали загораться или взрываться, т.е. причинять ущерб пользователю. Компании пришлось возместить ущерб и отозвать вообще все аппараты данной модели.
также и с диагнозом. Если периодически электродоктор выдает неверный ответ, это значит он деффектный. Это как калькулятор, который иногда не правильно считает (причем мы не можем узнать, верный ответ или нет).
Если периодически электродоктор выдает неверный ответ, это значит он деффектный.
Это только если упомянутый электродоктор построен на самообучаемых алгоритмах и представляет собой черный ящик. Тогда оценивают его целиком и при некоем пороге ошибок могут принять решение отказаться от его использования. А если это rule-based система, то достаточно подправить правило, чтобы ошибка более не повторялась,
Вот, кстати, поэтому я и против самообучаемых алгоритмов в медицине.
Самсунг. Если по уму, то там надо было отследить причину взрывов и выпустить прошивку, которая бы не давала выжимать батарейку в пиковых режимах. Ну а не помогло — тогда менять что-то в сервисах, и потом уже отзывать. Но им не дали. Вмешались чьи-то крупные интересы, и компании сразу пришлось идти по третьему пути.
Возможно ли такое в случае с электронным доктором? Думаю, очень даже. Но только когда он разовьется во что-то серьезное, представляющее опасность для других крупных медицинских игроков с деньгами. Но пока не видно даже стартапов.
Долой человеков из медицины!
Но вопрос шире, чем носимые гаджеты и медики. Например, эксперты в своём деле могли бы сильно расширить возможности голосовых помощников. Психологи смогли бы реализовать систему базовой психологической поддержки для тех, кто говорит помощнику о депрессии. Медики — сделать алгоритмы первой медицинской помощи и диагностики. (вот тут есть то, о чём я говорю) Юристы могут создать опросник, помогающий решать правовые ситуации с помощью голосового помощника («Окей, гугл, мне выписали штраф за парковку, что делать?»). Но все эти случаи требуют, чтобы сторонний человек имел возможность как-то подключить свой экспертный модуль к закрытой системе. Такой возможности сейчас нет, и, насколько я знаю, публичных обсуждений на эту тему даже не ведётся.
А в итоге, получаем продукты, в которых реализована едва ли десятая часть от их потенциала. Потому, что остальные 90% лежат вне сферы технологий, у профессионалов из других отраслей нет возможности внедрить свои знания и навыки в эти продукты.
P.S. Сейчас технологические компании активно покупают себе экспертов из других отраслей для подобных продуктов. Но эксперт или даже группа экспертов никогда не заменят собой исследовательскую организацию с сотнями полученных грантов и выполненных работ, десятками кандидатов и докторов наук. А инициативные одиночки, придумавшие оригинальный способ использования данных, часто не хотят менять свою жизнь и переходить из своей отрасли в ИТ.
Потом Microsoft забросили MSN Health, в нынешней редакции что есть на Windows 10 Mobile этого функционала уже нет.
P.S. Выглядело примерно вот так:
Правда интересно.
Вы действительно были уверены, что вы лучше знаете?
Или, что не ошиблись во вводе?
А если выдано 3-4 разных варианта, то я считаю, что точность плохая.
Если компьютер решая введенное уравнение, пишет, что х=4, то это точная программа. а если выдал варианты: 4, а может быть 3 или 7, то то не точный компьютер (плохой софт), и польза от такого решения = 0
Но здесь должно быть по-другому. Точный ответ — ранжированное множество.
Врач на первом приеме дает точность 60%. Получается, утаивая остальные возможные диагнозы, он редуцирует множество до всего одного варианта. И это снижает результативность. Экспертная система тоже вряд ли когда-либо дойдет до 100%, поэтому она должна выдавать множество в результатах.
Предположим, вам выдалось в таком порядке: желудочная болезнь, затем три инфекционных, из них две опасные и обе лечатся одним антибиотиком. Если отрезать только первый результат, как вы хотите, пользы будет ноль. Если проанализировать весь список, то можно подобрать лечение, которое поможет вам с высокой вероятностью.
Понятно объясняю?
или врач заметит какой-то симптом, который человек по своему не знанию (или невнимательности) не стал вводить в эту программу (к примеру, покраснение глаз или прыщик на шее), что позволит определить болезнь гораздо точнее.
а если довериться машине, то по логике: сначала нужно лечиться от наиболее вероятного заболевания, потом, если не помогло от следующего и т.д. Либо можно попытаться лечиться сразу от всего (что явно вредно). А еще человек может выбрать то лечение, которое будет дешевле…
или мы опять приходим к варианту посещения врача, который будет ставить диагноз, и, вполне вероятно, поставит его совсем не таким, как программа.
Но разработчики могут пойти дальше — объединить вероятные варианты в лечении и диагностике. Как я писал выше в примере с двумя инфекционными болезнями на 2 и 3 месте: пусть их вероятности 40 и 30%, но эффективность общего антибиотика уже будет (0.4+0.3)*0.8=56%.
Поскольку определение диагноза по симптомам это решение системы N уравнений с M неизвстными, где М всегда больше N. В тот момент когда экспертная система будет содержать в себе все M уравнений… она перестанет быть экспертной и станет моделью.
Но я сомневаюсь, что вышеуказанные программы могут обеспечить хотя бы сравнимую с врачами точность.
большой прогресс в этом направлении связан с привлечением суперкомпьютера Watson. Вот там да, пишут, что точность выше, чем у врача. Но и там они, может быть, сделают из этого некого помощника для больницы, а никак не общедоступную программу (веб клиент).
ради интереса, попробовал предложенные выше диагноз и диагноз-онлайн.
диагноз говорит, что у меня артроз, вторая система:
25.00% Бурсит (воспаление сумки сустава)
14.29% Асептический некроз головки бедренной кости
10.00% Ревматический полиартрит
и еще много других вариантов, с точностью менее 10%.
(что на самом деле — ХЗ)
Что касается всех этих онлайн-симптомчекеров, к ним у меня две большие претензии:
— нет обоснований
— нет суммы лечений (помните, выше я писал, как назначенное лечение может быть более эффективным, чем точность диагноза? В вашем случае это, кстати, тоже сработало бы, потому что две болезни лечатся гимнастикой и коллагеном, а две другие — НПВП, результат был бы почти 100%)
Но этого, видимо, боятся. А вот обоснования не делают, потому что не могут.
PS а хотя нет, не 100%. При воспалениях нельзя гимнастику. Эх, а так бы красиво получилось…
Современная экспертная система уже сейчас ставит диагноз гораздо быстрее и точнее врача в большинстве случаев.
Потому что врачи собственно в большинстве случаев как раз и угадывают болезнь по определенному набору известных им симптомов. Причем у разных врачей разные наборы известны им симптомов.
Но это в большинстве случаев.
А сложные случаи — там все запущено, в реальности заболевание может не генерировать известные симптомы, или генерировать совсем другие. И кто-то должен это все проанализировать на более глубоком уровне, попытаться понять, и главное взять на себя ответственность за результат.
В правовом факторе не вижу проблемы, почему — написал там в комментариях.
IBM Watson, например
http://researcher.watson.ibm.com/researcher/view_group_pubs.php?grp=2099
до валидации в масштабных исследованиях ещё не дошло, пока описываются методы генерации. Поэтому в пабмеде и нет, это технические статьи, в первую очередь.
И ещё кстати, интересная запись об идущем исследовании, как пациенты относятся к тому что диагнозы им будет ставить ватсон:
https://clinicaltrials.gov/ct2/show/NCT02565017?term=Watson&rank=1
Экспертной системе нужны экспертные данные — обычный человек зачастую не в состоянии их предоставить.
Простой пользлователь может неправильно классифицировать симптомы только потому, что просто не знает, куда и как смотреть.
А чтобы знал, ему перед самообследованием придется прочитать как минимум краткий курс лекций по соответствующим медицинским дисциплинам, да еще практику пройти, поскольку без реальной практики, когда "тот кто знает" неоднократно пальцем показывает, где что, просто никак.
Но даже это не гарантирует правильность результата. Даже врач, который всю жизнь учится, в том числе на своих ошибках, от этих самых ошибок никак не застрахован, кроме страхования ответственности перед клиентом в денежном выражении.
Что уж в такой ситуации говорить о простом пациенте, которому учиться на "самомедика" некогда, у него своих дел выше крыши.
Насморк — у пользователя действительно насморк!
Сыпь красного цвета, зудит и шелушится — практически всегда верно.
Болит печень — обычно так и есть, но одна дама как-то показала мне вместо печени сигмовидную кишку, а другой пациент — сердце. А вот если мы спросим про боли в правом подреберье — почти наверняка попадем на печень:) А также на растяжение диафрагмы, которое легко отследить.
Болит голова, аж темно в глазах! — головные боли он укажет, а вот про нарушения зрения не подумает.
Так что вот, какие-то симптомы мы отследить можем легко, а какие-то нет. Да, будет падение точности результата, но за счет объема базы данных, думаю, все равно экспертная система может работать эффективнее врача.
Те симптомы, которые рядовой пользователь может достаточно точно опознать самостоятельно, как правило сигнализируют о просто огромном количестве болезней или о болезнях, которые лечатся соверщенно по разному.
Конечно, можно поступать, как некоторые врачи, и при наборе симптомов "насморк, кашель, температура" всегда ставить диагноз ОРЗ и лечить его, например, антибиотиками. Только в случае ОРВИ или гриппа это как минимум бесполезно, а как максимум чревато летальным исходом.
И такие казусы возможны по многим группам симптомов.
А врач может посмотреть на дополнительные неочевидные симптомы, направить на дополнительное обследование и оценить его результаты.
Плюс точность измерений датчиков, доступных рядовому пациенту.
Обычный "бытовой электрокардиограф" — это примитивная двухточечная система, которая просто не способна дать данные, достаточно точные для выявления некоторых видов аритмии.
Плюс умение пациента пользоваться датчиками.
Даже банальный бытовой автоматический тонометр не все способны правильно использовать.
Так что если говорить об экспертной системе, более точной, чем врач, и заменяющей врача, то она, как врач, должна находиться в стационаре или в специальной машине (для помощи на дому) и комплектоваться медицинским работником, который будет контролировать подлключение к пациенту различных датчиков (включая рентген, томографию разных видов и т.п.).
И никаких "браслетиков".
Как вариант, мегабраслет с супердатчиками должен намертво устанавливаться врачом в условиях стационара, но и это уже как минимум один визит к врачу.
Наш профессор — он же мог, пользуясь некоей условной экспертной системой, поставить себе диагноз? Мог.
Воспаление — это несколько тысяч болезней. Воспаление + недавнее пребывание на природе в Массачусетсе — повышаем вероятность природных и зоонозных инфекций (но не исключаем остальные). Воспаление + Массачусетс + кольцевая эритема или Воспаление + Массачусетс + (опухлость сустава или полупаралич лицевого нерва) — это уже прямое указание на болезнь Лайма. И кстати, гаджет ему в принципе не нужен, ну потерял день — ничего страшного.
Если пациент скажет, что у него красные высыпания на руке с белыми точками в вершинках пузырьков, что спросит у него экспертная система?
Итак, пузырьковая сыпь с белыми точками. Есть пузырьки с темными точками (контагиозный моллюск) и прыщики с белыми точками (фурункулез), пузырьков с белыми точками не бывает, значит, больной ошибся. Но может, и нет.
В лоб не получилось, идем окольными путями. Сыпь бывает сама по себе и как отражение внутренних процессов. Спрашиваем о сроках ее возникновения, и не началось ли одновременно с сыпью слабость, температура, любое ухудшение состояния. Обнаружив, выясняем подробности по направлениям общевоспалительный, интоксикационный синдромы.
Также определяем саму сыпь — количество, размер, расположение (симметрично или нет, в каких зонах), форма пузырьков, полиморфизм, эволюционирование.
Общий анамнез — образ жизни, вредные привычки, наследственность, посещение природы и экзотических стран — это всегда нужно спрашивать.
Проверяем, сработало ли?
Пусть это воспалившиеся подростковые угри. Сыпь на лице, с гнойными стерженьками, без общего воспаления, на природу не ездил. Сработает.
Пусть это контагиозный моллюск. Определяем по характерной сыпи и отсутствию воспаления.
Что-то совсем экзотическое, например, ветряная оспа у взрослого на фоне СПИД. Тут нас перестает интересовать сыпь — фокусируемся на генерализованных проявлениях и пытаемся снять их массивной дозой антибиотиков, опрос про общие симптомы даст основания. Но ветрянку вполне можно будет подозревать по локализации сыпи и другим признакам.
В общем, работать будет.
Но не задали другой важный вопрос — про прием лекарств.
Один мой знакомый как раз попал с этим делом. Привез какого-то экзотического паразита из Тайланда. Но там клиническая картина была настолько смазана приемом лекарств от то ли гриппа, то ли бронхита (уже не помню), что все специалисты паразитологи только разводили руками. Он недели две ходил по разным врачам, пока нашелся кто-то один, который поставил, наконец, правильный диагноз.
Но принципиально тут другое. Эта система будет заниматься именно лечением? А кто будет отвечать за то, что пациент не получил лечения вовремя и умер, или слег с осложнениями? Получится, что система будет реагировать только на «очевидные» случаи рекомендациями, а в остальных — посылать к врачу.
Что она скажет, если ей опишут такой симптом, как самопроизвольное повышение пульса в два раза без физической нагрузки? Пропишет лечение, или все-таки порекомендует сходить к врачу и сделать кардиограмму?
Да и то, после пары-тройки судебных исков, когда «очевидный», на первый взгляд, случай окажется чем-то серьезным, систему настроят так, что она будет посылать к врачу при минимальном подозрении на что-то более или менее серьезное. А если учесть, что наверняка почти любой симптом может быть признаком серьезной болезни, то даже с совсем безобидными симптомами будет отправлять к врачу, а не рекомендовать лечиться тем-то и тем-то.
Тут должен быть кто-то, кто возьмет на себя ответственность за диагноз. В исходном примере это был тот самый «профессор генетики». Но я на 100% уверен, что если бы он заметил такое же поведение у своего студента, то не сказал бы ему название антибиотика, а посоветовал бы сходить к врачу и, максимум, сказал бы о своих подозрениях.
Можно принять решение за себя, но очень сложно взять на себя ответственность за другого. К тому же, это еще и законом не особо одобряется.
2. Упоминание чуть что «сходить к врачу» — это признак того, что идет отказ от решения проблемы и ее выпинывание в черный ящик разума врача. Решение — это определение круга проблем, который ЭС может решить (а) сама в рамках правил, либо (б) с направлением и получением анализов, либо (в) привлекая специалистов инструментальной помощи, от хирургии до лечебного массажа. Если ЭС работает плохо, то у этого только две причины: плохой движок, не умеющий интерпретировать правильно все правила или плохой источник правил (а хороший — это спецлитература и контроль ввода, выполняемый светилом, но никак не обычный врач с обычными знаниями)
3. Ну что вы все про иски? Я вот не могу придумать иск. Ненадлежащее оказание помощи? А кто ее оказывал? разработчик? Очевидно, нет. Программа? Это вообще не субъект права.
Неверная информация? Сложно представить себе разработчика, который говорит «я даю верную информацию», Это был бы феерический бред, если бы он такое заявил:) Корректно заявлять — «я обеспечиваю соответствие источникам», но тут уже не пройдет иск. Или, может, у вас есть свой вариант иска?
Сдерживающим фактором во всех странах являются требования регуляторов, которые ограничивают применение этих систем в сфере медицины и развитие идет в основном в области фитнеса. Причем в Китае регулирование более строгое и сегодня разрешено использование мобильных устройств в здравоохранении только для консультирования.
Но, читая про носимые гаджеты я не вижу ничего про экспертные системы и искусственный интеллект в диагностике болезней. Я вообще ничего про них не вижу. Может, кто-то знает, почему?
Насчёт "вообще ничего" — это вы зря.
Ключевые слова для поиска: ibm watson health.
В том числе есть статьи и на Хабре и GT.
Это я про Ватсон.
А про экспертные системы не пишут — ни про медицинские алгоритмы для них, ни про способы использования.
Но, читая про носимые гаджеты я не вижу ничего про экспертные системы и искусственный интеллект в диагностике болезней. Я вообще ничего про них не вижу. Может, кто-то знает, почему?
Может быть вы просто не набирали в гугле слова «когнитивные технологии в здравоохранении» и не видели на первых строках поисковой выдачи слова «ibm watson»?
А насчет датчиков — тут да, согласен с вами, современные консьюмерские датчики — полная лабуда, как и софт, что с ними работает.
По опросу: я тоже считаю, что основная проблема юридическая: для медицинской системы обычный отказ от ответственности вряд ли пройдёт, а прочие не будут пользоваться достаточным доверием, потому что уровень будет близким к тестам типа «определи свой тип личности по фотографии любимого актёра».
Что касается юридических проблем — мы с вами не юристы, а те юристы, с кем я общался, не видят субъекта ответственности в программе.
Сейчас каждый первый лезет в Интернет, чтобы поискать свои симптомы и болезни, а каждый второй занимается самолечением или проверяет своего врача. Кто здесь несет ответственность? А программа-ЭС — это по сути такой же источник знаний, просто его можно сделать более точным и удобным, а проблемы ответственности от этого никак не изменятся.
Скорее всего, это был относительный уровень от его нормы.Он измеряется достаточно точно? А то с пульсом не у всех хорошо, а тех, кто умеет его измерять в движении, вообще единицы.
Сейчас каждый первый лезет в Интернет, чтобы поискать свои симптомы и болезниЭто всего лишь обмен мнениями, причём, зачастую анонимный. Либо информация, как в Википедии, создаваемая довольно размытым сообществом. Когда же появляется некий продукт, выдающий рекомендации, за ним стоит компания с вполне конкретными гендиректором и владельцами или столь же конкретный ИП. Которые оценивают потенциальные доходы и ответственность, и второе перевешивает.
В общем эксперимент так и не зашёл, а через некоторое время проблема решилась возвращением в большой город.
Сделанные в процессе вентилирования выводы:
1) Нет ни конкурентного рынка, ни выработанных алгоритмов телемедицины
2) Все опрошенные врачи безальтернативно утверждают что диагноз по фотографии (даже если «фотография» это стандартный протокол обследования показателей телесных жижек или МРТ-шка, апример) не показателен и надо непременно показаться врачу вживую.
3) Все «экспертные» системы в русскоязычном интернете уровня «укажите какая лапка болит» написаны без привлечения доказательной медицины, на уровне «диагноз с потолка бесплатно без смс».
Что, собссно, хочу сказать… Врачи дистанционно по нормальным результатам типовых анализов не берутся диагнозы ставить, а вы тут про гаджеты говорите.
Ах да, и нести ответственность готов как-то не так, как при очной встрече. Но думаю, когда закон о телемедицине примут, там и ответственность по-другому пропишут.
Ни одна экспертная система у меня эти волнующие подробности не пыталась выяснять, да я и не уверен что все возможные варианты можно в опросник заложить.
PS Опрашивал врачей пять наверное, но кмк то что бума стартапов по телемедицине что то не видать говорит в пользу утверждения о проблемности дистанционной диагностики.
— боли в шее (в каком отделе?)
— боли в шее отдают (куда? в затылок?)
— боли в шее проходят после приема НПВС
Остальные подробности не нужны.
Возможно ли их, тем не менее, заложить? Думаю, да. Стандарт SNOMED CT включает триста тысяч разных состояний организма. Вот только работать с этим неудобно да и не нужно, поскольку все жалобы редуцируются до относительно небольшого количества (думаю, 10000 — верхний предел), которого достаточно для диагностики.
Второй момент — в вашем описании, как и в любом тексте вопросов доктору по интернету отсутствует масса необходимых как для врача, так и, естественно, для экспертной системы, сведений, как то:
— возраст, вес, вредные привычки
— образ жизни, характер работы
— мурашки и онемение рук
— боли в других отделах позвоночника
— травмы в анамнезе
(тут еще с десяток вопросов минимум)
Далее. 5 врачей против одного дает 80% и нулевую достоверность. К тому же трех из пяти я бы точно смог переубедить, особенно, если в моих силах — повысить им зарплату:)
Пока получаем, что пациенты на самом деле хотят внимания, а врачи не хотят лишней ответственности, и в этих условиях нужна не экспертная система, а нечто обратное — очень внимательные сиделки, которые всё выслушают и дадут десяток ненужных советов…
Чего не хватает носимым устройствам