Comments 10
Прогресс внедрения ИИ в медицину это конечно хорошо, только один аспект остается ключевым, - ответственность врача. Когда врач применяет собственные знания, собственный клинический эмпиризм, свое понимание национальных стандартов диагностики и лечения, протоколирует это свое видение в истории болезни, то не в последнюю очередь врач мотивирован ответственностью перед больным и коллегами.
А вот в самом применении технологий ИИ, где там разграничение ответственности врача и разработчиков?
Я переадресую вопрос спикеру и вернусь с ответом (скорее всего вернусь :D)
Как показывает практика и законодательство - отсутствует ответственность вендоров и разработчиков. А ИИ не рассматривается как ответственная сторона.
Что страшно, это неявные моменты, которые не очевидны. Это когда внедрение ИИ происходит административными методами. И отказ врача соглашаться с выводами ИИ трактуется как саботаж. И существуют методы материального воздействия на тех, "кто не согласен".
Рассказы про помощь врачу все же беспочвенны. Потому что происходит не помощь, а подмена врача. Или добровольный отказ врача от работы, которую он раньше выполнял. А теперь переложено на ИИ.
Про голос и диагностику по голосу это как про головную боль и причины ее возникновения. Тысяча и одна причина на почему возникает головная боль, как и для изменений в тембре голоса. Но таки ИИ чего-то вероятно "решит".
Про то что такое клиническое мышление разработчики не знают. А выдаваемые ими ИИ системы от этого так же далеки. То есть происходит замещение консервативного метода принятия решения врачем на вероятностностатистическое угадывание.
Вы просто не читали как работает российская правоохранительная система с медицинскими случаями - если есть труп, то находят себе одну, максимум 2 жертвы - по одной, какой-то понятной им логике и начинают заниматься посадками.
Будет ли им разница садить врача или разработчика судить я не возьмусь - тут все покажет практика: с одной стороны у разработчиков больше денег на адвокатов, с другой стороны медики объединятся против чужеродного элемента лишаюшего их зарплат и работ
Я не читал ничего, где в качестве виновного был признан ИИ или ПО в РФ. )) Разработчика ПО в медицине не судили, на сколько мне известно. Да и не сам разработчик должен отвечать. Это как стрелочник. На самом деле целая компания отвечает за разработку продукта с ИИ. И уж какая еще цепочка админ ресурса задействована на внедрение в медицине. Тут страшно даже думать какие должности задействованы.
Ответственность врача может считаться ключевым аспектом, если если ошибки часты. Если пересказывая ответ от ИИ можно получить результат лучше, чем пользуясь своими знаниями и опытом, а ошибки будут реже - регулятора это устроит. Конечно это может не устроить пациентов, но это будут индивидуальные судебные процессы, которые не должны в целом повлиять на внедрение.
Ответ от спикера:
Вопрос верный и по существу проблемы! В связке «врач-ИИ» роль ИИ, в настоящее время, заключается обычно в поддержке врачебных решений, ну или как максимум второго мнения. При этом допуск ИИ к выполнению подобных функций в практической медицине строго регламентирован. ИИ-сервисы, непосредственно участвующие в процессе оказания медицинской помощи, попадают под обязательную гос регистрацию по правилам, применяющимся к медицинским изделиям. Конечно, есть свои особенности, но любой цифровой продукт в ходе регистрационных процедур подвергается тщательной экспертизе на клиническую эффективность и безопасность.
Именно на этом уровне и происходит разграничение сфер ответственности за допуск ИИ-сервиса в клиническую практику.
Ответственность же за принятие решения по конкретному пациенту остаётся полностью на враче, независимо от того, принимал он во внимание «мнение» ИИ-помощника или нет.
Как-то смотрел видеоконференцию, где врачей знакомили с ИИ
Так вот врачи с большим бы удовольствием поделились бы с разработчико ИИ свой отвественностью, но даже не рассматривают вопрос при этом поделиться своими зарплатами.
Вряд ли, кто из разработчиков будет оплачивать риски из независимых источников, скорее всего вложат их в стоимость продукта и на всякий случай выведут все активы.
А в медицине будет все по старинке - хочешь поделиться рисками - погоняй пациента по косультациям, собери врачебные комиссии
Так вот врачи с большим бы удовольствием поделились бы с разработчико ИИ свой отвественностью, но даже не рассматривают вопрос при этом поделиться своими зарплатами.
Ну Вы уж совсем того ... Медикам делиться с разработчиками зарплатами ? То есть делиться тем чего и так не хватает ? В ИИ сейчас вливают огромные деньги. А медикам никто зарплат не прибавляет.
Если пофантазировать на будущее, фактически человек уже позвонив в регистратуру сможет пройти первичный анализ состояния здоровья по голосу.
Какой контраст...
Звоню в М.Видео. Отвечает ИИ:
— Вам нужна помощь в подборе товара или оформлении заказа? Скажите "да", или "нет".
— Нет.
— Вас не слышно. Пожалуйста, повторите.
— Нет!
— Вас не слышно. Всего доброго. (короткие гудки)
ИИ в отечественной медицине: цели внедрения, перспективы и проблемы