Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 42
То есть OpenAI готова нести ответственность за неправильные рекомендации в том числе и материальную?
На это у них будет один ответ - врачи тоже особо не несут ответственности за ошибки.
И причем многие пациенты будут chatgpt и защищать.
На это у них будет один ответ - врачи тоже особо не несут ответственности за ошибки.
Если говорить про российских врачей - то так и есть. Если врач соблюдал протоколы и рекомендации Минздрава (то есть просто исполнял формализованный алгоритм действий) - он не понесет никакой ответственности за последствия "лечения". Непонятно, конечно, зачем такому исполнителю алгоритмов 6 лет образования, ординатура и интернатура, но речь сейчас не об этом (речь не про хирургов, у них своя специфика).
Если говорить про американских врачей, ведь речь в посте про FDA, то они несут материальную ответственность, но более привычным для США путем, то есть через страховку. Премия страховки рисков профессиональной деятельности у частнопрактикующих врачей в США в среднем может достигать 30% их дохода, плюс, опытные врачи ещё дополнительно сами откладывают копеечку на случай нестрахового случая. И плохие врачи в целом отсеиваются за счет того, что их профстраховка вырастает до уровня, несовместисого с их уровнем дохода.
При этом различных FDA-approved автоматизированных медицинских сервисов в США уже воз и маленькая тележка, поэтому ChatGPT прецедентом не является. И поэтому в реалиях США вопрос о признании нейросети медицинским сервисом - это по сути вопрос о том, будут ли страховые страховать её ответственность, и по каким ставкам.
Лично я считаю, что вопрос доверия к нейроети как врачу - личное дело каждого. Я, например, в силу профессии лично был свидетелем того, как примитивные нейросети пятилетней давности стабильно обходили врачей средней квалификации в дифференциальной диагностике. Но, что важно, данные объективного обследования испытуемым давали в готовом виде, т.к. нейросеть пока что не может пропальпировать или обстучать коленки) но, коль скоро телемедицина уже давно легализована, не вижу принципиальных отличий.
Вы очень не правы, врач в РФ не защищён вообще никак. Если грамотно подать иск в плане медицинских гражданских дел (уголовные дела это отдельная тема для разговора - тут вообще у врача нет шансов), то вероятность вынесения решения в пользу пациента приближается к 100%
А у кого в уголовных делах в российском суде есть шансы? Статистика вам, надеюсь, известна. Если уголовное дело с <вставь профессию> в качестве обвиняемого дойдет до суда - он получит срок. Но врачу попасть на уголовку - нереально. Только если свои же подставят в ходе внутреннего жабогадюкинга. Ну или по обороту СДЯВП.
"В плане медицинских гражданских дел" иски предъявляются к медучреждению, а не к врачу, т.к. именно учреждение является стороной договора. Частнопрактикующие же врачи в РФ - экзотический вид, если не считать стоматологов. Но в любом случае это область ЗоПП, где в целом клиент имеет несколько привилегированное положение в силу диспозиции. Но и тут медучреждения не являются ущемленными по сравнению с другими категориями предпринимателей, даже наоборот.
В то время, когда еще не было chatgpt у мамы (она врач) с бабушкой состоялся разговор:
Моя мама: Доверься мне, я же доктор.
Моя бабушка: Я доверяю "Народному доктору" (эт была такая газета)
Учитывая коллосальные размеры рынка здравоохранения в сша я думаю это их не испугает. Тот же "Мед-ЧатГпт", который за 10 баксов мог бы рецепты на парацетомол выдавать - уже принес бы кучу денег.
Врач, если не делал грубых отклонений от стандартных протоколов лечения, тоже не будет нести ответственность, если с пациентом что-то случится.
Плюс в медицине много рутины типа "у вас температура, кашель и сопли? вот вам больничный на 3 дня и парацетамол" (иногда ещё назначают антибиотики, полагаю, по наличию или отсутствию какого-то из симптомов в списке или по эпидемелогической обстановке в городе, не разбирался), которая сейчас в некоторых странах даже дистанционно делается (то есть по сути для самых типовых случаев лечение может быть назначено чисто со слов пациента). В эту сферу может вклиниться ИИ.
Что-то уровня "вы пробовали выключить и снова включить?" (если проводить аналогию с айти). Ну и конечно же это будет бесить (как и нынешние боты техподдержки) тех, кто ещё до обращения знает, что его случай не такой типовой (впрочем, помимо тех кто действительно знает ещё будут те, кто лишь думает что знает).
(не туда ответил)
Как-то так:)
OpenAI хочет, чтобы FDA это узаконила
Сама постановка вопроса показывает насколько раковая опухоль бюрократии глубоко проникла в наше общество. А что в этом вообще незаконного? А пойти в библиотеку, прочитать там книги по медицине и сделать собственные выводы (возможно неправильные), - это тоже незаконно?
LLM это LLM, всем известны ее технические ограничения. Ее выдача не является абсолютной истиной. Впрочем, и выдача биологических нейросетей (т.е. людей) тоже.
Только почему в "наше общество".
Настолько бюрократический и коррумпированный гос орган медицины как FDA есть только в США.
Даже в так называемом "евросовке" их местные аналоги FDA гораздо менее погрязли в бюрократии и коррупции
"По другую" сторону (РФ, Китай, Индия) и вовсе таких проблем нет.
Тут вопрос ChatGPT это "искусственный интеллект" или "интеллектуальный поисковик". Если второе, то к нему, конечно, никаких вопросов как и к книге, но OpenAI (и не только им) хочется позиционироваться как первое. А там уже начинает маячить ответственность за неправильные решения.
Вы оперирует не понятно какими терминами. Есть уже давно устоявшаяся терминология (настолько устоявшаяся, насколько она может быть устоявшейся в такой сфере). ANI и AGI - вот стандартные термины. И gpt - никогда не позиционировали как AGI, а только как ANI, а это - слабый ИИ. Это значит, что он умеет в агрегацию информации, генерацию на основе неё выводов и тд, но ещё не имеет сознания, а значит ближе к книге, чем к человеку, хотя и использует схемы схожие с человеческим мозгом.
OpenAI хочет, чтобы FDA это узаконила
А сейчас спрашивать чатгп о здоровье незаконно? Или что имеется в виду? Почему то, что заявлено в заголовке, в статье вообще не затрагивается?
Тут главный вопрос что произойдёт, когда кто-нибудь умрёт или покалечится, в его истории браузера найдут диалог с ChatGPT, где он советовал человеку то от чего он умер как лечение, и родственники погибшего подадут в суд на OpenAI.
Сейчас исход будет зависеть от того как карта ляжет. Убедит адвокат судью, что ChatGPT исполнял функции врача без лицензии и OpenAI всыпят люлей.
И вот OpenAI хочет официальную бумажку, в которой будет прописано при каких условиях он несёт ответственность за вредные советы, а при каких нет, чтобы обезопасить себя.
Ну так OpenAI в ответ покажет в окно диалога, где внизу написано, что что чатгпт может ошибаться, проверяйте важную информацию.
А если человек перед тем, как умереть, не спрашивал у чатгпт, а просто погуглил, как деды делали, и это тоже найдут в истории и родственник подадут в суд на гугл, то какой сейчас будет исход суда? А если человек вообще хходил в библиотеку и взял Малую медицинскую энциклопедию, и родственники подадут в суд на библиотеку, то тогда как?
Ии сейчас - серая зона. В случае книги - она просто даёт информацию о болезнях симптомами и тд, а все выводы за человеком. В случае же ИИ происходит агрегация информации и при некоторых запросах, ответы могут быть в виде персонализированной рекомендации.
Пусть технически - это та же самая агрегация, но форма-то совета, по этому возникает серая зона, ибо часть выводов за человека может сделать ИИ.
В энциклопедии тоже наверняка можно найти способы лечения. Откройте статью про любую болезнь на википедии, там будет. А рекомендации в прямом виде а ля "настой смородины три раза в день" можно найти и в какой-нибудь желтой газете. Если человек ими воспользуется и умрет, то кто будет виноват - он или газета?
Проблема не в том, что человек прочёл книгу и поставил себе диагноз. А в том может ли он сам себе выписать например наркотики или любые другие лекарства опасные для бесконтрольного приёма. Причём опасные не только для самого человека, но и для окружающих. Потребовать сделать себе операцию или любую другую процедуру.
Не раз слышал от тех, кто живет в США, что огромный процент населения принимает те или иные психотропные препараты - антидепрессанты, успокоительные и так далее. И прописывают их конечно же врачи. Говорят, у американских врачей на это мода какая-то, причём уже давно, исторически (ещё Курт Воннегут про это писал, в романе "Малый-не-промах" например). Так что хуже точно не будет.
Я считаю что сам себе человек должен иметь возможность делать всё. Единственное - это должно быть безопасно для окружающих. Значит, для потенциально опасных вещей должны быть специальные места. Типа как стрельбища для тех кто увлекается огнестрельным оружием.
ChatGPT очень сильно помогает в медицинских вопросах, с учётом того, что медики не сильно заинтересованы в изучении нетипичных случаев. OpenAI большое дело делает в этом плане, что, хочется надеяться, позволит сделать медицину более доступной и надёжной.
Это вопрос гражданской ответственности.
У Гугла есть неплохая модель для работы с медицинскими данными - https://huggingface.co/google/medgemma-27b-it
Может и снимки анализировать, и диагнозы ставить, ... Кстати и русский язык поддерживается.
Вот только на сайтах Гугла (AI Studio) вы эту модель попробовать не можете.
И у других провайдеров, например OpenRouter, вы можете использовать почти любую из сотен открытых моделей, но только не эту медицинскую.
Почему? Потому что никто не хочет подставляться под риск гражданской ответственности.
Остаётся только вариант запускать эту модель на своём сервере, что я и делаю...
мужчина без психиатрического анамнеза был госпитализирован с отравлением бромидом — он следовал рекомендации ChatGPT принимать эту добавку
Проверяйте факты в ваших статьях. В исходном сообщении пользователь не спрашивал "чем можно заменить соль", он прочитал о вреде sodium chloride и не разобравшись что это такое (это соль, натрий хлор, но последнее звучит страшнее), полез за советом со словами "чем заменить хлорид натрия", причем неизвестно упоминал ли он диету (скорее всего нет, т.к. даже гпт 3.5 сколько ее ни спрашивай для съедения не предлагала бром, всегда писала что это для уборки). При этом спрашивая химическим термином чатгпт автоматически рассудил что запрос идёт от человека знакомого с химией или хотя бы умеющего читать.
Субъект пошел в продуктовый, не нашел бромида, пошел в аптеку, тоже не нашел, пошел в спец магазин удобрений, купил, и стал бромить еду себе, не прочитав на упаковке "В РОТ НЕ КЛАСТЬ". Возможно ему стоило дать психиатрический диагноз вместо раздувания новости из человеческой тупости.
Должен ли был ЧатГПТ спросить "а зачем собсна тебе эта информация?", должен, если подумал бы о том, что sodium chloride это соль и ее кушают, соответственно надо понять зачем кожаный хочет замену искать, но "подумал" это не про LLM. LLM это инструмент который делает сугубо то что скажешь, или сочиняет с три короба, соответственно надо очень четко давать контекст и ставить задачу. Никакие ухищрения во время обучения на научат его эмпатии или здоровой форме паранойи, которая включается у опытных врачей когда они смотрят на пациента и получают подозрительный вопрос. Если тебе нужно чтобы LLM задала вопрос - так и напиши "задай мне 3 уточняющих вопроса", или в системный промпт заполняй. LLM не умеют читать мысли.
В принципе делаю так же.
Учитывая "качество" медицины в целом в мире, доступной для большинства, оптимальным считаю консультацию с самой продвинутой нейронкой (5.2-thinking) по поводу результатов анализов/исследований.
Понятно, что самолечением заниматься не ок, но вот я на 100% уверен, что будет сильно больше пользы скормить все результаты нейронки, чем сходить в "поликлинику к терапевту". Там остались люди, которые про доказательную медицину никогда не слышали, чего уж говорить о современных исследованиях.
Не забывайте о медицинской тайне. Если для врачей есть требования и правила, то для операторов LLM ничего такого нет.
Ребят, давайте без фанатизма по поводу "секретных слов" в промптах. С точки зрения процессов, надеяться на то, что модель "поймёт" ваш сложный запрос без структуры — это лотерея. Лично проверял: вместо того чтобы полировать текст промпта часами, лучше потратьте время на внедрение строгой схемы ответа (например, через JSON-schema). Машине проще работать с чётким ТЗ, чем с вашими эпитетами. Валидация на выходе экономит больше нервов, чем любой "гениальный" запрос».
Учитывая то, что многие даже врачу объяснить свои симптомы нормально не смогут, то я бы на месте OpenAi насторожилась, это может быть очень опасно, и это пугает
А мне нравится нейросеть. Я жалуюсь ему, при чём тут конкретные болячки, но иногда он, конечно, преувеличивает, я ему говорю не преувеличивай ты дисик. Я как-то анализы сдал, у меня зрение ухудшилось там пульс большой тудым, сюдым сдал много анализов на 20000 р. Через кровь как бы. Витамин D, 25-гидрокси (кальциферол): 12.95 нг/мл (норма: 30 - 100) → Глубокий дефицит.
· Витамин B12, активный (холотранскобаламин): 19.30 пмоль/л (норма: 25.10 - 165.0) → Дефицит активной фракции B12.
· Витамин B9 (фолиевая кислота): 7.32 нмоль/л (находится на самой нижней границе нормы 7.0 - 39.7) → Погранично низкий уровень.. И пошел к платному неврологу. Государственная больница.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
40 млн человек ежедневно спрашивают ChatGPT о здоровье. OpenAI хочет, чтобы FDA это узаконила