Если кому-то интересно, выложил на huggingface русскоязычную медицинскую модель. Файнтюнил Gemma2-2b методом Continued Pretraining на собственном медицинском датасете. Обучение стоило всего 8$. Результаты сносные, особенно в написании рецензий на статьи с Pubmed.
Настройки для запуска на ПК и мобильных устройствах находится в описании. Лучше всего использовать LMStudio. Главное, установите medicus.preset.json , который дан в описании.
Подготовка медицинского датасета - отдельная тема, которая требует написания статьи. Как будет возможность, напишу об этом, если хотите.
В целом, Continued Pretraining показал довольно хороший результат для создания подобия Reasoning модели.
Пример ситуационной задачи (модель правильно определила аппендицит)
PROMPT:
В больницу скорая привезла мужчину 37 лет с болью внизу живота. Боль возникла в течение суток. При пальпации живот напряжен, особенно в правом нижнем квадранте. При пальпации в правой подвздошной области отмечается припухлость. На УЗИ в правой подвздошной области отмечается утолщение стенок кишечника и выпот жидкости. В лабораторных исследованиях отмечается СОЭ 40 мм ч, сдвиг лейкоцитарной формулы влево.
Выбери наиболее вероятное заболевание: Аппендицит, Спаечная непроходимость, Дивертикулит, Язвенная болезнь желудка Если среди предложенных заболеваний нет правильного, предложи твой вариант
ОТВЕТ МОДЕЛИ:
Thinking
Рассмотрим симптомы пациента. Наличие боли внизу живота и припухлости в правой подвздошной области, подтвержденной УЗИ, указывает на проблему с кишечником.
Утолщение стенок кишечника и выпот жидкости в правой подвздошной области указывают на воспалительный процесс или закупорку, возможно, вызванную препятствием в кишечнике. СОЭ 40 мм ч свидетельствует о наличии воспаления в организме. Сдвиг лейкоцитарной формулы влево также говорит о воспалительном процессе.
Аппендицит - наиболее вероятный диагноз, так как он часто сопровождается болями внизу живота и может вызывать припухлость в правой подвздошной области. Выпот жидкости указывает на то, что appendicitis имеет затяжной характер.
Однако, не все варианты полностью исключены:
Спаечная непроходимость - также возможна, но обычно сопровождается более постоянными и выраженными симптомами, а не острой болью в течение суток. Утолщение стенок кишечника при спаечной непроходимости встречается реже, чем при других заболеваниях.
Язвенная болезнь желудка - чаще проявляется язвами или кровотечением из ЖКТ, а не напряженным животом и утолщением стенок кишечника.
Дивертикулит может вызывать дискомфорт в правой подвздошной области, но обычно без притупления и острой боли.
Final Response
Наиболее вероятным заболеванием является аппендицит (вариант А). Симптомы пациента - напряженный живот с болью внизу живота, припухлость в правой подвздошной области и результаты УЗИ - соответствуют этому диагнозу. Отек, выпот жидкости и воспалительные маркеры также подтверждают этот вывод
