Comments 52
ИИ не пытается найти как можно больше раковых опухолей. Все реалистичные модели наказываются а не награждаются за обнаружение несуществующих опухолей. У систем которые используются чисто для отфильтровывания случаев которые точно НЕ являются раком процент ложноположительных срабатываний может быть довольно высок (в расчете на то что ответ все равно проверяется компетентным доктором способным отсечь ошибки) но даже в этом случае перед тем как делать операцию всегда выполнят биопсию которая как правило является малоинвазивной и безопасной процедурой.
Если ИИ используется там, где нет высококвалифицированного врача, кто накажет ИИ за неправильный диагноз? Если следствием диагноза будет не операция с проведением биопсии, а терапевтическое лечение в течение долгого времени? Цитата: "Искусственный интеллект все активнее применяется для профилактики и лечения заболеваний, предоставляя медицинским специалистам и пациентам новые инструменты для принятия решений". Да, формально решение принимает врач, но принимает на основе безответственной с точки зрения морально-этических норм обработки информации
А кто накажет ножи, которые безответственно применяются в преступлениях? Правильный ответ - правоохранительные органы разберутся. Думаю, попытки перекладывания ответственности на "компьютер" существуют давно, но сомневаюсь, что они имеют юридическую силу. Если автор хотел привлечь внимание к чему-то, то стоило подобрать более релевантные "факты" для обсуждения. )
А может, поручить ИИ создать геном человека, обладающего цифровым сознанием, а загружать в него ИИ? Тогда не будет проблемы перекладывания ответственности. А насчет релевантных фактов - обсуждать можно только то, что произошло, и не надо то, что может произойти?
"где нет высококвалифицированного врача" - ключевой фактор. Примите как данность, что это стандартная ситуация для 90% населения планеты. Просто недостаточно квалифицированных врачей на такое население. Это так и в России, и в США, и во многих других странах.
Поэтому альтернатива ИИ не "квалифицированный врач", а отсутствие врача и диагноза вообще.
Т.е. даже "10% подтвердившихся диагнозов и 90% неподтвердившихся от ИИ" лучше чем "100% отсутствие диагнозов вообще". К счастью, сейчас ИИ ищет опухоли гораздо лучше.
Сейчас, к сожалению, проблема решается через вариант "давайте не назначать МРТ вообще, раз его смотреть некому".
В медицине очень редко опираются только на один фактор, по которому принимается решение о лечении. Даже если будут ложные срабатывания, это не пойдет во вред человеку. Максимум - во вред государству/страховым т.к. потребуются затраты на дополнительную диагностику.
Выскажу противоположное мнение, что чрезмерные страхи наоборот тормозят прогресс в этой области и наносят больше вреда, чем пользы. Смертность от того, что пропустили и запустили заболевание на порядок выше вреда, который приносит гипердиагностика и ошибочные операции.
Пока да, смертность от пропуска выше, т.е. есть запас. Но стоит ли его расходовать? Я не говорю, что нужно запретить использование этих методов, меня удивляет, что никто не думает об их безопасности и то, что минздрав даже не собирается обсуждать этот вопрос
Стоит ли расходовать запас чего ? Запас мертвых людей, которые могли бы быть живыми ?
Ни один компетентный врач ничего отрезать не перепроверив не будет. Чуть больше диагностики страну не разорят, налогоплательщик довольно немало налогов отчисляет
Расходы на здравоохранение увеличивать нужно, но в первую очередь - на повышение квалификации врачей, а не на замену их. Главная проблема медицины - недоступность для большинства человечества квалифицированной помощи. Перевод этого большинства на диагностику и лечение искусственным интеллектом - сложный этический выбор. Прежде чем его делать, хотелось бы обсудить. Именно это я и предлагаю
Ничего сложного в этическом выборе "спасти сто человек" или "спасти тысячу человек" нету. Медики весьма прагматичные люди, они уже сделали свой этический выбор много лет назад, когда только начали появляться, к примеру возможности широкомасштабного скрининга.
Собственно никакие ии тут не нужны, зачем вы его приплели понятно не очень, разве что для хайпа. В очень немаленьком количестве случаев есть просто-таки описанные алгоритмы по которым надо двигаться при лечении и диагностики. Протоколы называются. Там прям всё написано в нотации "if-then".
Вы, простите, врач ?
Не врач, но кое-что понимаю. Протоколами владею. А ИИ приплел не я, а министр здравоохранения. И мне это не понравилось. Если я подписываю согласие на любую медицинскую процедуру, то хотел бы знать, когда меня смотрит человек, а когда ИИ
Скажите, а когда вы сдаете анализ крови - тоже требуете, чтобы не бездушная железка, а живой лаборант ее смешивал и разглядывал ?
Или этодругое?
Я требую, чтобы интеллектуальную работу (анализировать результаты) выполнял живой человек. При этом понимаю, что он может ошибиться и чего-то не учесть, поэтому делаю анализы в разных лабораториях и показываю их разным специалистам. И с каждым из них обсуждаю это
Открою вам тайну страшную. Уже много лет к каждому анализу идет список обнаруженных патологий. Он довольно длинный. И совершенно никакие люди ничего для выявления этих патологий не предпринимают. Железка, будь она неладна, всё сама делает...
Точно железка. Совершенно точно. Я делал эту железку:).
каждый анализ, выходящий за рамки нормы, действительно может быть следствием кучи патологий. Или индивидуальным отклонением от нормы. Или следствием того, что лаборатория закупила необходимые реагенты не в Германии, а в Китае. Человек все это в голове может удержать, ИИ - сомневаюсь
Вы упорно игнорируете то, что вам пишут :).
Бездушный автомат уже ставит вам диагноз исходя из, к примеру, клинического анализа крови. И никто этот автомат не перепроверяет. Ибо проверить десяток параметров на их отношение друг к другу в определенной пропорции, конечно можно, но совершенно контрпродуктивно. При этом каждый отдельно параметр может быть в пределах нормы, а их сочетание указывать на патологию...
Индивидуальные отклонения от нормы уже учитываются в клинических рекомендациях. Качество реагентов контролируется калибровочными образцами, которые контролируются по метрологическим стандартам.
Вы что-то "не то" пишите, ей богу....
Вы пишете, как должно быть, а я пишу, как есть в реальной жизни на собственном опыте. Бездушный автомат технически правильно определяет численные показатели и соотносит их с усредненной нормой. И только человек-специалист может понять и сделать вывод, что зафиксированное отклонение от нормы обусловлено или индивидуальными особенностями организма, или качеством реагентов (оборудование стандартной лаборатории не может провести полный входной контроль качества реагентов). Или наоборот - правильно интерпретировать проигнорировать ложнонормальные результаты. Могу выслать в личку официальный ответ солидной клиники примерно такого же содержания, что у них все хорошо и все контролируется, в то время как их результаты анализа давали норму, а результаты другой лаборатории и вся клиническая картина - превышение нормы в 4 раза. И только неформальный подход живого человека позволил поставить правильный диагноз вопреки выводам бездушной железяки. Могу привести много других примеров, но здесь не место.
Вы слишком сильно доверяете людям, машины реально ошибаются намного реже. А люди часто субъективны и бывает, что когда человек накапливает опыт и интуицию (неосозновпемый опыт) его знания устаревают, меняются протоколы лечения, да ввсе меняется. Так что ИИ в медицине неизбежен
... неизбежен как тепловая смерть вселенной. Я не хочу тормозить прогресс, я хочу, чтобы люди думали и контролировали функции, которые передают ИИ
А некоторые ещё и категорически не о больном думают... И хорошо если это приводит к увеличению диагностики, но бывают случаи, когда отрезают что-то, что можно было не отрезать. "Я хирург, я так вижу" :).
Я пишу как есть. Еще раз повторюсь: я ДЕЛАЮ эти приборы, понимаете :)?
Для определения большого количества "патологий" используется именно автоматический механизм, никаких расчетов врачи вам делать не будут - это контрпродуктивно. Спросите своего терапевта сможет ли он четко исключить по вашему анализу, к примеру малярию, если будет врать, что сможет, спросите как конкретно :)). Смог? Спрашивайте про лихорадку западного нила. Опять смог, напишите, я вам еще полсотни возможных проблем пришлю :)...
Входной контроль качества реагентов - бессмысленная блажь. Контролируют калибровочные и контрольные образцы вообще-то... И их качество как правило сомнения не вызывает. Отчасти потому, что медики не идиоты, они проверяют перекрестно, и если поставщик будет гнать некачественные эталоны - он мгноменно весь рынок потеряет.
Вы делаете эти приборы? Хорошо, объясните, как 3 лаборатории (включая главную региональную и лабораторию центра Меги) говорят, что паратгормон в норме, а 2 другие, менее известные лаборатории, - что он в 4 раза выше нормы? Если бы я и врачи, к которым я обращался, поверили большинству, я бы с вами уже не переписывался. Поэтому я против усредненных статистических подходов машин и за субъективный, зависящий от квалификации, но дающий пациенту право выбора врача, подход человека-врача. Еще примеры отклонений от усредненного подхода привести?
Понятия не имею. Весьма вероятно, что использовали разные методики, а скорее всего весь вопрос в том, когда брали кровь.
Не исключено, что у вас все анализы были верные... Ну т.е. у меня лично он был х2 от максимума почти на пустом месте, побыл побыл и вернулся в референсные значения. У супруги примерно также с ТТГ, то норма, то не норма. При онкологических случаях там бывает х10 и более, и ничего, мгновенно никто не умирает...
Для исследования паращитовидки есть куча способов, в частности сцинтография... Причем сейчас ее с МРТ что-ли совмещают, в целом получается очень точная картина того, как работает железа.
Субъективизм, конечно штука отличная, но ровно до того момента, когда начинают делать не те, не нужные операции, показаний для которых нету, и которые потом приходится переделывать по-нормальному...
А ведь если правильно и не субъективно читать протоколы, то эти неправильные операции нереализуемы... Ну т.е. там нету then отрежьте, есть then вначале дообследуйте.
ЗЫ. А теперь мое любимое: отличные субъективные мешки с мясом перепутали мои анализы, когда разглядывали их в микроскоп. Т.е. мне достался ложноподожительный диагноз, а кому-то ложноотрицательный (мой)! При работе "презренных автоматов" подобное совершенно невозможно...
Решением этой проблемы я занимался 8 лет, для этого сделал в трех городах и двух странах около 50 анализов ПТГ, 3 раза сцинтиграфию, много УЗИ, МРТ и КТ, перенес 2 операции. Так что у меня набрана хорошая статистика по качеству лабораторных исследований. Были случаи, когда я сдавал один и тот же анализ в течение получаса в двух лабораториях и получал 4-кратное расхождение, и я проверял эти лаборатории несколько раз, т.е. это не случайность. И мне страшно, что я мог бы попасть под власть ИИ в той клинике, лаборатория которой дает недостоверные данные. Самое интересное, что анализируя и систематизируя всю картину, я понял, что этот гиперпаратиреоз был вызван многолетним приемом препарата, прописанного кардиологом по стандартному протоколу. Это к вопросу о консилиумах.
Прогресс не остановить, ИИ будет развиваться и это хорошо. Но этим нужно управлять и главное, что нужно внедрить в ИИ - умение сомневаться и перепроверять всё, в том числе собственные решения
Классификатор болезней icd 10 - там больше 10 000 диагнозов, больше 37 000 строк. Вопрос, применять ли какую либо медицинскую экспертную систему или нет, больше не стоит - конечно применять. Ошибается ли llm - конечно ошибается. Точность до 95 %, только это за секунды и ещё до анализов, только на основании опроса пациента. Так что нужно не запрещать, а развивать и обучать.
Кстати, LLM вообще непричем к поиску опухолей и постановке диагнозов. Там другие модели используются. Но уже сейчас поиск опухоли по МРТ ИИ делает лучше чем подготовленный врач. У врача тоже есть и ложно отрицательные, и ложно положительные. Причем для некоторых типов опухолей ложно отрицательные у живого врача до 40% доходят.
Если ИИ находит несуществующий диагноз - его наказывают.
Если врач в платной клинике находит несуществующий диагноз - его ставят в пример остальным.
В бесплатной клинике врача не интересуют ваши болезни, ему лишь бы выполнить план по приемам, диспансеризации, и снижению количества абортов. Но если и там додуматься премировать за найденные диагнозы, то получается весьма предсказуемо.
Не надо обобщать.
Надо. В 99% случаев всё именно так.
Какие ваши доказательства? )
Сейчас пойду специально для вас проведу опрос 100500 пациентов ))
Признаюсь, не ожидал такого ответственного подхода. С нетерпением жду результатов. )
Да, я очень ответственный. Смотрите, бюджет для качественного телефонного опроса 100500 пациентов составит $899475, по $8.95 за человека. Если готовы оплатить, то сообщите, куда прислать реквизиты для оплаты.
Я обоснованно рассчитывал, что вы пойдете лично проводить опрос 100500 пациентов. Но раз накладные расходы на пеший поход отменяются, предлагаю кратно повысить охват исследования. Скидывайте номер своей мобилы ответным сообщением, уверен, пытливая аудитория хабромеценатов быстро пополнит баланс на необходимую сумму. )
Про обман ИИ преувеличили. Даже когда их обучали на неверных датасетах, вредные советы составляли умеренный процент.
А при грамотном обучении и настройке перепроверки результатов - модно добиться почти 100% результатов. Плюс, никто не отменял контроль человеком.
А какой процент можно считать умеренным, если речь идет о жизни человека? Если человек контролирует советы ИИ, то человека достаточно, ИИ не нужен. А если квалифицированного врача для этого нет?
Если отбросить крайние варианты (больницы без врачей и супер современные клиники), то средняя картина выглядит примерно так: в больнице имеется, как минимум, один или несколько квалифицированных врачей, которые не могут "объять необъятное". Рядом с ними работает значительно больше молодых и менее квалифицированных специалистов.
Мне представляется правильным следующий алгоритм:
- сначала диагноз ставит молодой врач. 90% - это банальные случаи и в диагнозе ошибиться сложно. П.С. 90% - это цифра навскидку, усредненный личный опыт
- потом диагноз ставит ИИ. Если выводы совпадают, то переходят к лечению
- Если диагнозы расходятся, пациента передают опытному врачу
Хотелось бы, чтобы было так. Но на практике при амбулаторном лечении врачи не обсуждают своих пациентов. Собрать консилиум по желанию пациента невозможно. При госпитализации в сложных случаях это делается, но сначала нужно решить, что случай сложный. А если после заключения ИИ врач решит, что все просто, советоваться не будет. А ИИ вполне может ошибиться
Странно, мне удавалось собрать консилиум. Вы, может денег заплатить не предлагали :)? (в кассу, с чеком, совершенно официально много где можно получить дополнительные услуги)
А "за государственные" никто не будет вам консилиумы оплачивать. Просто потому, что время специалистов конечно, и пока они вам впятером нос утирать будут и по голове гладить кто-нибудь другой умрет от отсутствия помощи.
Деньги или время всегда можно конвертировать в спасенные жизни, вопрос только в курсе конвертации.
Я не пользуюсь бесплатной медициной. А ни в одной платной клинике не видел в списке предоставляемых услуг "консилиум". Поэтому хожу ногами к разным специалистам, а систематизировать их мнения приходится самому. Был опыт, когда я делал один и тот же анализ в 6 разных лабораториях и правильным оказался результат, который был в меньшинстве. Другой опыт - консилиум был проведен, бесплатно, в итоге смотрели 30 специалистов, но никто не понял, что это. Спустя 8 лет я понял сам
Сходу прям в медси есть
https://medsi.ru/services/onkologicheskiy-konsilium/
Мне попадалось во многих других местах... В прайс-листах прямо...
Учитывая, что ChatGPT и другие виды ИИ не могут решить задачу из курса физики за 8 класс (я проверял неоднократно и писал про нее здесь, на хабре), я не хочу доверять им решение медицинских вопросов, особенно - сложных
Искусственный интеллект в медицине – панацея или геноцид?