Комментарии 38
ИИ не пытается найти как можно больше раковых опухолей. Все реалистичные модели наказываются а не награждаются за обнаружение несуществующих опухолей. У систем которые используются чисто для отфильтровывания случаев которые точно НЕ являются раком процент ложноположительных срабатываний может быть довольно высок (в расчете на то что ответ все равно проверяется компетентным доктором способным отсечь ошибки) но даже в этом случае перед тем как делать операцию всегда выполнят биопсию которая как правило является малоинвазивной и безопасной процедурой.
Если ИИ используется там, где нет высококвалифицированного врача, кто накажет ИИ за неправильный диагноз? Если следствием диагноза будет не операция с проведением биопсии, а терапевтическое лечение в течение долгого времени? Цитата: "Искусственный интеллект все активнее применяется для профилактики и лечения заболеваний, предоставляя медицинским специалистам и пациентам новые инструменты для принятия решений". Да, формально решение принимает врач, но принимает на основе безответственной с точки зрения морально-этических норм обработки информации
А кто накажет ножи, которые безответственно применяются в преступлениях? Правильный ответ - правоохранительные органы разберутся. Думаю, попытки перекладывания ответственности на "компьютер" существуют давно, но сомневаюсь, что они имеют юридическую силу. Если автор хотел привлечь внимание к чему-то, то стоило подобрать более релевантные "факты" для обсуждения. )
А может, поручить ИИ создать геном человека, обладающего цифровым сознанием, а загружать в него ИИ? Тогда не будет проблемы перекладывания ответственности. А насчет релевантных фактов - обсуждать можно только то, что произошло, и не надо то, что может произойти?
"где нет высококвалифицированного врача" - ключевой фактор. Примите как данность, что это стандартная ситуация для 90% населения планеты. Просто недостаточно квалифицированных врачей на такое население. Это так и в России, и в США, и во многих других странах.
Поэтому альтернатива ИИ не "квалифицированный врач", а отсутствие врача и диагноза вообще.
Т.е. даже "10% подтвердившихся диагнозов и 90% неподтвердившихся от ИИ" лучше чем "100% отсутствие диагнозов вообще". К счастью, сейчас ИИ ищет опухоли гораздо лучше.
Сейчас, к сожалению, проблема решается через вариант "давайте не назначать МРТ вообще, раз его смотреть некому".
В медицине очень редко опираются только на один фактор, по которому принимается решение о лечении. Даже если будут ложные срабатывания, это не пойдет во вред человеку. Максимум - во вред государству/страховым т.к. потребуются затраты на дополнительную диагностику.
Выскажу противоположное мнение, что чрезмерные страхи наоборот тормозят прогресс в этой области и наносят больше вреда, чем пользы. Смертность от того, что пропустили и запустили заболевание на порядок выше вреда, который приносит гипердиагностика и ошибочные операции.
Пока да, смертность от пропуска выше, т.е. есть запас. Но стоит ли его расходовать? Я не говорю, что нужно запретить использование этих методов, меня удивляет, что никто не думает об их безопасности и то, что минздрав даже не собирается обсуждать этот вопрос
Стоит ли расходовать запас чего ? Запас мертвых людей, которые могли бы быть живыми ?
Ни один компетентный врач ничего отрезать не перепроверив не будет. Чуть больше диагностики страну не разорят, налогоплательщик довольно немало налогов отчисляет
Расходы на здравоохранение увеличивать нужно, но в первую очередь - на повышение квалификации врачей, а не на замену их. Главная проблема медицины - недоступность для большинства человечества квалифицированной помощи. Перевод этого большинства на диагностику и лечение искусственным интеллектом - сложный этический выбор. Прежде чем его делать, хотелось бы обсудить. Именно это я и предлагаю
Ничего сложного в этическом выборе "спасти сто человек" или "спасти тысячу человек" нету. Медики весьма прагматичные люди, они уже сделали свой этический выбор много лет назад, когда только начали появляться, к примеру возможности широкомасштабного скрининга.
Собственно никакие ии тут не нужны, зачем вы его приплели понятно не очень, разве что для хайпа. В очень немаленьком количестве случаев есть просто-таки описанные алгоритмы по которым надо двигаться при лечении и диагностики. Протоколы называются. Там прям всё написано в нотации "if-then".
Вы, простите, врач ?
Не врач, но кое-что понимаю. Протоколами владею. А ИИ приплел не я, а министр здравоохранения. И мне это не понравилось. Если я подписываю согласие на любую медицинскую процедуру, то хотел бы знать, когда меня смотрит человек, а когда ИИ
Скажите, а когда вы сдаете анализ крови - тоже требуете, чтобы не бездушная железка, а живой лаборант ее смешивал и разглядывал ?
Или этодругое?
Я требую, чтобы интеллектуальную работу (анализировать результаты) выполнял живой человек. При этом понимаю, что он может ошибиться и чего-то не учесть, поэтому делаю анализы в разных лабораториях и показываю их разным специалистам. И с каждым из них обсуждаю это
Открою вам тайну страшную. Уже много лет к каждому анализу идет список обнаруженных патологий. Он довольно длинный. И совершенно никакие люди ничего для выявления этих патологий не предпринимают. Железка, будь она неладна, всё сама делает...
Точно железка. Совершенно точно. Я делал эту железку:).
каждый анализ, выходящий за рамки нормы, действительно может быть следствием кучи патологий. Или индивидуальным отклонением от нормы. Или следствием того, что лаборатория закупила необходимые реагенты не в Германии, а в Китае. Человек все это в голове может удержать, ИИ - сомневаюсь
Вы упорно игнорируете то, что вам пишут :).
Бездушный автомат уже ставит вам диагноз исходя из, к примеру, клинического анализа крови. И никто этот автомат не перепроверяет. Ибо проверить десяток параметров на их отношение друг к другу в определенной пропорции, конечно можно, но совершенно контрпродуктивно. При этом каждый отдельно параметр может быть в пределах нормы, а их сочетание указывать на патологию...
Индивидуальные отклонения от нормы уже учитываются в клинических рекомендациях. Качество реагентов контролируется калибровочными образцами, которые контролируются по метрологическим стандартам.
Вы что-то "не то" пишите, ей богу....
Классификатор болезней icd 10 - там больше 10 000 диагнозов, больше 37 000 строк. Вопрос, применять ли какую либо медицинскую экспертную систему или нет, больше не стоит - конечно применять. Ошибается ли llm - конечно ошибается. Точность до 95 %, только это за секунды и ещё до анализов, только на основании опроса пациента. Так что нужно не запрещать, а развивать и обучать.
Кстати, LLM вообще непричем к поиску опухолей и постановке диагнозов. Там другие модели используются. Но уже сейчас поиск опухоли по МРТ ИИ делает лучше чем подготовленный врач. У врача тоже есть и ложно отрицательные, и ложно положительные. Причем для некоторых типов опухолей ложно отрицательные у живого врача до 40% доходят.
Если ИИ находит несуществующий диагноз - его наказывают.
Если врач в платной клинике находит несуществующий диагноз - его ставят в пример остальным.
В бесплатной клинике врача не интересуют ваши болезни, ему лишь бы выполнить план по приемам, диспансеризации, и снижению количества абортов. Но если и там додуматься премировать за найденные диагнозы, то получается весьма предсказуемо.
Про обман ИИ преувеличили. Даже когда их обучали на неверных датасетах, вредные советы составляли умеренный процент.
А при грамотном обучении и настройке перепроверки результатов - модно добиться почти 100% результатов. Плюс, никто не отменял контроль человеком.
А какой процент можно считать умеренным, если речь идет о жизни человека? Если человек контролирует советы ИИ, то человека достаточно, ИИ не нужен. А если квалифицированного врача для этого нет?
Если отбросить крайние варианты (больницы без врачей и супер современные клиники), то средняя картина выглядит примерно так: в больнице имеется, как минимум, один или несколько квалифицированных врачей, которые не могут "объять необъятное". Рядом с ними работает значительно больше молодых и менее квалифицированных специалистов.
Мне представляется правильным следующий алгоритм:
- сначала диагноз ставит молодой врач. 90% - это банальные случаи и в диагнозе ошибиться сложно. П.С. 90% - это цифра навскидку, усредненный личный опыт
- потом диагноз ставит ИИ. Если выводы совпадают, то переходят к лечению
- Если диагнозы расходятся, пациента передают опытному врачу
Хотелось бы, чтобы было так. Но на практике при амбулаторном лечении врачи не обсуждают своих пациентов. Собрать консилиум по желанию пациента невозможно. При госпитализации в сложных случаях это делается, но сначала нужно решить, что случай сложный. А если после заключения ИИ врач решит, что все просто, советоваться не будет. А ИИ вполне может ошибиться
Странно, мне удавалось собрать консилиум. Вы, может денег заплатить не предлагали :)? (в кассу, с чеком, совершенно официально много где можно получить дополнительные услуги)
А "за государственные" никто не будет вам консилиумы оплачивать. Просто потому, что время специалистов конечно, и пока они вам впятером нос утирать будут и по голове гладить кто-нибудь другой умрет от отсутствия помощи.
Деньги или время всегда можно конвертировать в спасенные жизни, вопрос только в курсе конвертации.
Я не пользуюсь бесплатной медициной. А ни в одной платной клинике не видел в списке предоставляемых услуг "консилиум". Поэтому хожу ногами к разным специалистам, а систематизировать их мнения приходится самому. Был опыт, когда я делал один и тот же анализ в 6 разных лабораториях и правильным оказался результат, который был в меньшинстве. Другой опыт - консилиум был проведен, бесплатно, в итоге смотрели 30 специалистов, но никто не понял, что это. Спустя 8 лет я понял сам
Сходу прям в медси есть
https://medsi.ru/services/onkologicheskiy-konsilium/
Мне попадалось во многих других местах... В прайс-листах прямо...
Учитывая, что ChatGPT и другие виды ИИ не могут решить задачу из курса физики за 8 класс (я проверял неоднократно и писал про нее здесь, на хабре), я не хочу доверять им решение медицинских вопросов, особенно - сложных
Искусственный интеллект в медицине – панацея или геноцид?